커넥터가 없는 맥 앱도 봇이 직접 다룰 수 있을지 궁금했습니다. 제 맥북에서 Grok Bot으로 agent-desktop 스킬을 테스트하며, 입력이 된 장면과 막힌 장면을 함께 확인했습니다. Vercel Labs가 만든 agent-desktop은 Rust로 구현된 도구입니다. 화면의 픽셀을 짐작하는 대신 접근성 트리로 앱의 실제 구조를 읽고, JSON에 담긴 요소의 ref를 이용해 클릭하거나 입력합니다. 앱과 창을 확인하고 스냅샷을 읽어 동작한 뒤 다시 확인하며, 화면이 바뀌면 ref도 다시 찾아야 합니다. 맥북은 깨어 있고 잠금이 풀려 있어야 합니다. 실행 없이 코드를 읽은 정적 보안 점검 결과는 위험 낮음이었습니다. 백도어나 몰래 정보를 빼내는 코드는 발견되지 않았습니다. 맥용 실행 코드에서 확인된 네트워크 호출은 127.0.0.1 한 곳뿐이었습니다. 번들 실행 파일 10개의 SHA-256 해시도 모두 일치했습니다. 실행 중 자동 업데이트 기능은 없다는 점도 코드 점검에서 확인했습니다. 다만 해시 일치는 일관성 확인이며 무해함을 증명하지는 않습니다. 실제 테스트에서는 Finder 조작과 텍스트 편집기 문장 입력에 성공했습니다. Chrome의 RHWP 확장에서는 첫 헤드리스 입력이 문서에 보이지 않았습니다. 헤드 모드로 창에 포커스를 주고 입력칸을 클릭한 다음, 클립보드의 문장을 Cmd+V로 붙여넣어 해결했습니다. 입력 결과는 접근성으로 다시 읽을 수 없어 사람이 화면으로 확인했습니다. 이런 경우에는 사람의 확인이나 화면 캡처로 결과를 봐야 합니다. rhwp-studio 웹 버전에서는 ego lite CLI로 직접 타이핑한 문장이 나타났습니다. 워드는 라이선스 만료로 편집이 막혀 테스트하지 못했습니다. 커넥터를 먼저 쓰고, 웹은 브라우저 도구로 처리하며, 네이티브 앱에 agent-desktop을 쓰는 순서를 기준으로 삼았습니다. 버전은 1.0.2로 고정하고 화면 설명을 외부로 보내는 도우미와 그 키는 사용하지 않습니다. macOS 권한 창은 사용자...
안드로이드 앱이 설치되는 크롬북 (크롬 OS Dev 53 )에 Google Play스토어에서 디지털 교과서 앱을 설치하였다. 우여곡절 끝에, 디지털 교과서 맛보기가 가능한 계정(sample)이 있다는 사실을 지인이 알려준 edunet 사이트에서 찾았다.
맛보기 교과서가 몆종이 있었는데, 그중에 과학 교과서 하나를 다운로드 (대략 150MB 크기)하여 내 서재에 저장되는 것을 확인.
내 서재의 교과서를 오픈하니, 생각보다 자연스럽게 동작을 하는 군요. 터치스크린 모드에서 손가락으로 자연스럽게 책장을 넘길 수 있게 책장 효과까지,
책장 중간중간에 삽입된 동영상 링크도 잘 동작을 하고 어른이 처음 경험해 보는 초등학교 교과서입니다.
그런데 몇가지 불편한 점을 발견, 글씨체가 작은 페이지를 확대 하여 볼 수 있는 방법이 없는 불편함이 있었고, 여러가지 추가 메뉴들이 있었는데 감춰진 곳에 있어서, 잘 알 수 없었던 것,
다운로드 되는 교과서 분량이 만만치 않게 크다는 사실, 외장형 스토리지에 저장할 방법이 따로 있나요?
어쨋든 크롬북에서도 디지털 교과서 앱과 교과서 컨텐츠가 무리 없이 동작을 하는 것을 확인 했습니다. 크롬북이 짱이군요..
댓글
댓글 쓰기