커넥터가 없는 맥 앱도 봇이 직접 다룰 수 있을지 궁금했습니다. 제 맥북에서 Grok Bot으로 agent-desktop 스킬을 테스트하며, 입력이 된 장면과 막힌 장면을 함께 확인했습니다. Vercel Labs가 만든 agent-desktop은 Rust로 구현된 도구입니다. 화면의 픽셀을 짐작하는 대신 접근성 트리로 앱의 실제 구조를 읽고, JSON에 담긴 요소의 ref를 이용해 클릭하거나 입력합니다. 앱과 창을 확인하고 스냅샷을 읽어 동작한 뒤 다시 확인하며, 화면이 바뀌면 ref도 다시 찾아야 합니다. 맥북은 깨어 있고 잠금이 풀려 있어야 합니다. 실행 없이 코드를 읽은 정적 보안 점검 결과는 위험 낮음이었습니다. 백도어나 몰래 정보를 빼내는 코드는 발견되지 않았습니다. 맥용 실행 코드에서 확인된 네트워크 호출은 127.0.0.1 한 곳뿐이었습니다. 번들 실행 파일 10개의 SHA-256 해시도 모두 일치했습니다. 실행 중 자동 업데이트 기능은 없다는 점도 코드 점검에서 확인했습니다. 다만 해시 일치는 일관성 확인이며 무해함을 증명하지는 않습니다. 실제 테스트에서는 Finder 조작과 텍스트 편집기 문장 입력에 성공했습니다. Chrome의 RHWP 확장에서는 첫 헤드리스 입력이 문서에 보이지 않았습니다. 헤드 모드로 창에 포커스를 주고 입력칸을 클릭한 다음, 클립보드의 문장을 Cmd+V로 붙여넣어 해결했습니다. 입력 결과는 접근성으로 다시 읽을 수 없어 사람이 화면으로 확인했습니다. 이런 경우에는 사람의 확인이나 화면 캡처로 결과를 봐야 합니다. rhwp-studio 웹 버전에서는 ego lite CLI로 직접 타이핑한 문장이 나타났습니다. 워드는 라이선스 만료로 편집이 막혀 테스트하지 못했습니다. 커넥터를 먼저 쓰고, 웹은 브라우저 도구로 처리하며, 네이티브 앱에 agent-desktop을 쓰는 순서를 기준으로 삼았습니다. 버전은 1.0.2로 고정하고 화면 설명을 외부로 보내는 도우미와 그 키는 사용하지 않습니다. macOS 권한 창은 사용자...
구글 문서 도구 (Docs, Slide, Sheet)안에서 직접 Google Meet (화상회의)로 화면 공유하기
그동안 Google Meet로 온라인 화상 회의시 내 문서나 슬라이드, 화면을 공유하기 위해서는 반드시 Google Meet 접속후 ‘발표 시작하기' 를 통해서 ‘내 전체 화면', ‘창', ‘탭' 을 공유할 수 있었습니다.
이번에 구글 문서 도구 (Docs, Slide, Sheet)가 업데이트 되면서 (5월19일 구글 I/O에서 발표한 스마트 캔버스 기능에 대한 일환) 문서(Docs, Slide, Sheet) 안에서 화상회의 Google Meet를 실행하여 내 문서를 온라인 회의 참여자들에게 화면 공유가 가능해졌습니다.
협업의 생산성을 높이기 위한 일환으로 구글은 구글 문서를 중심으로 협업 관련 필요한 작업들을 통합하려는 시도(스마트 캔버스라는 개념 적용)중에 하나입니다.
댓글
댓글 쓰기