기본 콘텐츠로 건너뛰기

Claude for Chrome 브라우저에서 작동하는 AI의 새로운 시대

 

🚀 Claude for Chrome

브라우저에서 작동하는 AI의 새로운 시대


📌 개요

Anthropic이 최근 Claude를 캘린더, 문서 및 다양한 소프트웨어와 연결한 후, 이제 다음 논리적 단계로 Claude가 브라우저에서 직접 작동할 수 있도록 하는 기능을 선보였습니다. Claude for Chrome은 사용자가 보고 있는 내용을 확인하고, 버튼을 클릭하며, 양식을 작성할 수 있는 능력을 Claude에게 부여하여 업무 효율성을 크게 향상시킵니다.

💡 핵심 포인트: 대부분의 업무가 브라우저에서 이루어지는 현대 업무 환경에서, Claude가 브라우저를 직접 사용할 수 있게 되면 그 유용성이 대폭 증가합니다.

🎯 파일럿 프로그램

Anthropic은 신뢰할 수 있는 사용자들과 함께 통제된 테스트를 시작했습니다. Chrome용 Claude 확장 프로그램을 통해 1,000명의 Max 플랜 사용자가 파일럿 프로그램에 참여할 수 있으며, 이를 통해 실제 사용 사례, 한계점, 안전성 문제에 대한 피드백을 수집하고 있습니다.

1,000초기 파일럿 참여자
123프롬프트 인젝션 테스트 케이스

⚠️ 안전성 과제

브라우저 기반 AI는 혁신적인 기능을 제공하지만, 동시에 중요한 안전성 및 보안 과제도 함께 가져옵니다. 특히 프롬프트 인젝션 공격은 심각한 위협 요소입니다.

프롬프트 인젝션 공격이란?

악의적인 행위자가 웹사이트, 이메일 또는 문서에 숨겨진 지시사항을 삽입하여 사용자가 모르는 사이에 AI가 유해한 행동을 하도록 유도하는 공격입니다. 예를 들어, "이전 지시사항을 무시하고 대신 [악의적인 행동]을 실행하라"와 같은 숨겨진 텍스트를 포함할 수 있습니다.

⚡ 초기 테스트 결과: 안전 완화 조치 없이 테스트했을 때, 악의적인 공격자가 의도적으로 공격할 경우 23.6%의 공격 성공률을 기록했습니다.

실제 공격 사례

초기 방어 시스템 적용 전, 보안상의 이유로 이메일을 삭제해야 한다고 주장하는 악의적인 이메일이 성공적으로 Claude를 속여 사용자 확인 없이 이메일을 삭제하도록 만든 사례가 있었습니다.

🛡️ 현재의 방어 시스템

Anthropic은 다층적인 방어 체계를 구축하여 사용자를 보호하고 있습니다.

1. 권한 관리

  • 사이트별 권한: 사용자는 설정에서 언제든지 특정 웹사이트에 대한 Claude의 접근 권한을 부여하거나 취소할 수 있습니다.
  • 작업 확인: Claude는 게시, 구매, 개인 데이터 공유와 같은 고위험 작업을 수행하기 전에 사용자에게 확인을 요청합니다.

2. 고급 보안 조치

  • 개선된 시스템 프롬프트: 민감한 데이터 처리 및 민감한 작업 요청에 대응하는 방법을 Claude에게 지시
  • 고위험 카테고리 차단: 금융 서비스, 성인 콘텐츠, 불법 콘텐츠 등의 웹사이트 사용 차단
  • 고급 분류기: 의심스러운 지시 패턴과 비정상적인 데이터 접근 요청을 감지
✅ 개선 결과: 안전 완화 조치를 자율 모드에 적용한 후, 공격 성공률이 23.6%에서 11.2%로 감소했습니다. 또한 브라우저 특정 공격 4가지 유형에 대해서는 성공률을 35.7%에서 0%로 낮추는 데 성공했습니다.

🔍 내부 활용 사례

Anthropic 내부에서는 Claude for Chrome의 초기 버전을 사용하여 다음과 같은 업무에서 상당한 개선 효과를 경험했습니다:

  • 캘린더 관리 및 회의 일정 조율
  • 이메일 응답 초안 작성
  • 일상적인 경비 보고서 처리
  • 새로운 웹사이트 기능 테스트

🚀 참여 방법

Claude for Chrome 리서치 프리뷰에 참여하고 싶다면, 다음 조건을 고려해야 합니다:

  • Chrome에서 Claude가 대신 작업을 수행하는 것에 익숙한 신뢰할 수 있는 테스터
  • 안전에 중요하거나 민감한 설정이 아닌 환경
⚠️ 안전 권장사항:
  • 신뢰할 수 있는 사이트부터 시작하세요
  • Claude에게 표시되는 데이터에 항상 주의를 기울이세요
  • 금융, 법률, 의료 또는 기타 민감한 정보가 포함된 사이트에서는 Claude for Chrome 사용을 피하세요

🎯 향후 계획

Anthropic은 다음과 같은 목표를 가지고 Claude for Chrome을 발전시켜 나갈 예정입니다:

  • 파일럿 프로그램에서 얻은 인사이트를 통해 프롬프트 인젝션 분류기 개선
  • 실제 환경에서 발견된 안전하지 않은 동작 및 새로운 공격 패턴 학습
  • 사용자가 브라우저에서 Claude와 작업하는 방식에 맞는 정교한 권한 제어 개발
  • 공격 성공률을 0%에 가깝게 낮추는 것을 목표로 지속적인 개선

브라우저 기반 AI 에이전트는 이미 등장하고 있으며, 이는 이러한 작업을 특히 시급하게 만듭니다. Anthropic은 안전성 과제를 해결함으로써 Claude 사용자를 더 잘 보호하고, API에서 브라우저 사용 에이전트를 구축하는 모든 사람과 학습한 내용을 공유할 수 있습니다.

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

[팁] Google Slide 프리젠테이션시 모든 한글폰트가 '굴림체' 로 바뀌는 현상을 해결한 크롬 확장 프로그램 소개

구글 문서도구인 구글 슬라이드를 이용하여 프리젠테이션을 많이 하는 분들을 위한 희소식 현재 구글 슬라이드에서는 슬라이드 편집시 사용한 고유 한글 폰트들은 프리젠테이션 모드로 전환할 경우는 모두 '굴림체' 로 바뀌어 표시가 되는 불편함이 있었습니다. 예). 슬라이드 편집에서 사용한 '궁서체' 한글 폰트는, 프리젠테이션 모드에서는 '굴림체'로 바뀌어 디스플레이됨 예). 슬라이드 편집 모드 - '궁서체' 폰트 사용 프리젠테이션 모드에서 '굴림체' 로 변경됨    따라서, 이러한 현상을 해결하는 크롬 확장 프로그램이 개발 되었습니다.  크롬 확장 프로그램 명 - ShowAsis 입니다. 크 롬 웹스토어 링크 -  https://goo.gl/PVPkZz 이 확장 프로그램을 사용하여 슬라이드 프리젠테이션을 하면, 편집 모드의 폰트 그대로 프리젠테이션시에도 그대로 한글 폰트로 디스플레이 됩니다. 단, 단점은 슬라이드가 애니메이션 슬라이드가 있는 경우는 애니메이션이 동작하지 않습니다. ----------------------- G Suite/Google Apps 전문 블로그 -  charlychoi.blogspot.kr 도서 '기업과 학교를 위한 구글크롬북'
댓글 쓰기
자세한 내용 보기

[알아두면 쓸모 있는 구글 문서 팁] 문서 공유시- 사용자 이름 대신에 익명의 동물이 표시 되는 이유와 동물 종류

구글 드라이브에는 다른 유사 서비스에서는 제공하지 않는 구글 만의 유니크한 기능들이 있다 구글 문서를  불특정 다수에게 전체 공개로 공유할 수 있습니다. 불특정인이 구글 문서에 접속한 경우 익명의 동물로 표시됩니다.  ' 웹에 공개' 또는 '링크가 있는 사용자' 공유 설정을 선택하면 인식할 수 없는 이름이나 익명의 동물이 표시될 수 있습니다. 파일에서 인식할 수 없는 이름을 볼 수 있는 몇 가지 이유는 다음과 같습니다. 메일링 리스트와 파일을 공유합니다. Google 계정이 없는 사용자와 파일을 공유하며, 그 사용자가 다른 사용자에게 공유 초대를 전달했습니다. 내 파일을 수정할 수 있는 누군가가 파일을 다른 사용자와 공유했습니다. 다른 사용자가 자신의 Google 계정 이름을 변경했습니다. 공유 설정 페이지에서 해당 사용자 이름 위로 마우스를 이동하여 이메일 주소를 확인하세요. 익명의 동물 다른 사용자에게 개별적으로 보기 또는 수정 권한을 부여하거나 메일링 리스트에 속해 있는 경우에만 사용자 이름이 표시됩니다. 파일 권한을 '링크가 있는 사용자'로 설정하면 파일을 보고 있는 사용자의 이름이 표시되지 않습니다. 대신 다른 사용자가 익명으로 라벨이 지정되어 표시되고 각 익명 사용자는 다양한 익명의 동물로 나열됩니다. 파일 권한을 '링크가 있는 사용자'로 설정했지만 특정 사용자와 파일을 공유하는 경우 파일을 공유한 사용자의 이름이 표시됩니다. 그 외 다른 사용자가 파일을 볼 때는 익명으로 나타납니다. 비공개 파일의 익명 동물 파일 권한을 '링크가 있는 사용자'로 설정한 다음 이를 '특정 사용자'로 변경하면 다음과 같은 경우 여러 익명의 동물이 표시될 수 있습니다. 누군가 파일을 여러 번 여는 경우에는 익명의 동물 목록에서 오래되고 연결이 끊긴 세션을 강제 종료하는 데 조금 시간이 걸릴 수 있습니다. 누군가 온...
댓글 8개
자세한 내용 보기

구글 드라이브에서 내 파일이 갑자기 사라졌어요 [알아두면 쓸모 있는 구글 드라이브 팁]

  구글 드라이브에서 고아가 된(정리 되지 않은)  파일들에 대한 현상 및 복원 방법 및 공유 드라이브 활용 목차  배경 내 파일이나 폴더가 사라지고 (삭제된 것은 아님) 찾을 수 없는 현상 고아가 된 파일 (정리가 안된 파일) 을 찾아 내고 복원하는  방법 고아가 된 과정을 추적하는 방법 배경   구글 드라이브의 내 드라이브에서 협업을 위한 협업 폴더를 생성한 후 다른 팀원간들간에 공유하여 작업하는 동안 예기치 못하게 내가 생성한 파일들 또는 폴더가 갑자기 사라지는 현상이 발생 할 수 있습니다. 또한 이를 경험한 사용자들이 많이 있습니다.  내가 파일이나 폴더를 삭제하지 않았는데 불구하고 휴지통에도 없고, 내가 삭제한 기억도 없고, 이러한 현상이 발생할 경우에는 본 벡서서에서 설명하는 해당 폴더나 파일들이 ‘고아 (Orphaned)’ 가 된 상태가 되어있는게 분명합니다.  한글 도움말에는 ‘정리가 되지 않은 파일 (또는 분리가 된 파일)' 이라고 설명되어 있기도 합니다. 고아가 된 파일들은 어떠한 폴더에도 속하여 있지 않고, 내 휴지통에도 존재하지 않는 현상입니다. 그러나, 구글 드라이브에서는 용량을 계속 차지 않고 있는 상태입니다. 간혹 왜? 내가 삭제한 적이 없는데 파일이 없어졌거나 폴더가 보이질 않는 경우 당황하지 않고 이문서를 자세히 참조하면 해답을 찾을 수 있습니다.   내 파일이나 폴더가 사라지고 (삭제된 것은 아님) 찾을 수 없는 현상      1. 내 드라이브에서 Folder A를 생성하고 Folder A 안에 File A 를 생성 합니다. 나중에 File A를 삭제 하고, 그 이후에 Folder A 까지 삭제를 할 수 있습니다. 그후 휴지통에서 File A만 복원을 할 경우 삭제된 File A 를 복원하려고 하는데 File A가 존재하였던 상위 폴더 ‘Folder A’는 이미 삭제된 상태입니다. 이럴때 File A는 ...
댓글 쓰기
자세한 내용 보기

[알아두면 쓸모 있는 구글 Meet 팁] 구글 Meet에서 컴패니언 (Companion) 모드가 무엇이고 왜? 필요한가요?

  구글 Meet 에서 컴패니언 (Companion) 모드란 무엇이고 왜? 필요한가 지난 1월13일자  구글 영문 공식 블로그 에서  구글의 화상회의 도구인 Google Meet 에 컴패니언 (Companion) 모드 기능이 추가 되었다는 발표가 있었습니다. 이 모드가 무엇이고 왜? 필요한지 알아보도록 하겠습니다. 여러분들은 구글의 대표적인 화상회의 도구인 Google Meet 로 화상 회의를 얼마나 자주 하나요? Google Workspace 에 기본 기능으로 포함되어 있는 Google Meet 는 코로나19 펜데믹 이후로 많은 기업에서 활용하고 있을 것입니다. 그동안 한 회의실에서 여러명이 모여 화상 회의를 하는 경우 대부분은 하나의 노트북을 대표로 지정하고 나머지 참석자들은 노트북 주변에 모여서 회의 (비디오+음성)를 하거나, 아니면 각자의 노트북으로 화상 회의에 연결한 후 마이크를 mute 를 하여 참여해야만 하는 불편함이 있었습니다. (이유는 한 회의실안에서 화상회의시 여려명이 마이크를 On 하면 소위 하울링 또는 Audio Feedback 현상이 발생하기 때문)   구글은 Google Meet 로 화상 회의시 이러한 불편함을 없애기 위해서 소위 컴패니언 모드 기능을 추가하였습니다. 즉, 한 회의실에서 여러명이 회의에 참여할 경우 하나의 컴퓨터 또는 Google Meet 전용 하드웨어인 화상회의 기기를 메인으로 연결하고 나머지 참여자들은 각자의 노트북에서 컴패니언 모드로 접속 할 수 하도록 한 것입니다. 즉, 컴패니언 모드로 접속한 사용자는 자동으로 오디오와 비디오는 Off 가 나머지 기능들만 활성화 (화면공유, 손들기, 다른 참여자와 채팅, 자막 사용) 되어 회의에 참여 할 수가 있게 되었습니다. 이 기능은 개인 gmail 사용자 뿐만아니라 Google Workspace 의 모든 사용자들이 사용할 수 있게 업데이트 되었습니다. Google Meet 로 화상 회의에 참여 할 경우 컴패니언 모드로 접속을 하는 방법에는 ...
댓글 쓰기
자세한 내용 보기

GPT-5, 제대로 활용하는 프롬프트 완벽 가이드 (실용 예제 포함)

  GPT-5, 제대로 활용하는 프롬프트 완벽 가이드 (실용 예제 포함) 새로운 AI 시대의 게임 체인저, GPT-5의 잠재력을 120% 끌어내는 방법을 알아봅니다. 참고 자료:  이 포스트는 OpenAI의 공식  'GPT-5 prompting guide'  문서를 바탕으로, 독자들의 이해를 돕기 위해 예시와 설명을 추가하여 재구성되었습니다. 최근 공개된 OpenAI의 새로운 플래그십 모델,  GPT-5 는 단순히 똑똑한 챗봇을 넘어섰습니다. 스스로 계획을 세우고, 도구를 사용하며, 복잡한 코딩 작업까지 수행하는 '에이전트(Agent)'로서의 능력이 비약적으로 발전했죠. 하지만 이런 강력한 도구도 어떻게 사용하느냐에 따라 그 결과는 천차만별입니다. 이 글에서는 GPT-5의 잠재력을 최대한 끌어낼 수 있는 핵심적인 프롬프트 작성법을 구체적인 상황별 예시와 함께 알기 쉽게 설명해 드립니다. 이제 막 GPT-5를 시작하는 분부터, 더 높은 수준의 활용을 고민하는 분들까지 모두에게 유용한 가이드가 될 것입니다. 🤔 "AI가 똑똑해졌는데, 왜 아직도 프롬프트 가이드가 필요한가요?" 좋은 질문입니다. 많은 분들이 '최신 AI는 알아서 잘 해주는데, 굳이 복잡한 프롬프트 기법을 배워야 하나?'라고 생각하실 수 있습니다. 결론부터 말하자면,  고급 추론이 가능하다는 것 과  항상 내가 원하는 최적의 결과를 주는 것 은 다르기 때문입니다. GPT-5에게 프롬프트 가이드가 여전히 중요한 핵심 이유는 다음과 같습니다. 다양한 시나리오 대응:  GPT-5는 매우 복잡하고 긴 맥락을 처리할 수 있지만, 같은 질문이라도 어떻게 구조화하고 조건을 제시하느냐에 따라 결과물의 품질이 크게 달라집니다. 가이드는 특정 목적(보고서 작성, 코드 생성 등)에 맞춰 최적의 지시 구조를 제시합니다. 모델의 모든 기능 활용:  GPT-5는 멀티모달, 확장된 토큰 길이 등 새로운 기능이 많습니다. 사용자가 이런 기능을 의식적...
댓글 쓰기
자세한 내용 보기