▲ 썸네일을 누르면 YouTube 영상으로 이동합니다. 답변을 넘어 접수 확인까지: 피클로 살펴본 AI 에이전트의 완수 조건 AI에게 맡기는 단위가 달라진다 일을 맡겼는데 다시 챙겨야 한다면 위임의 효과는 작다. 신청 방법을 알아낸 뒤 로그인하고, 서류를 채우고, 회신을 기다리는 과정이 그대로 남기 때문이다. 개인 AI 에이전트 피클의 사례에서 눈여겨볼 대목은 답변의 유창함보다 실행의 범위다. 브라우저와 이메일, 문서와 일정을 오가며 하나의 목표를 실제 결과까지 이어 간다. 여기서 위임의 단위는 질문 한 개가 아니라 완료 상태다. “신청 절차를 알려 달라”는 요청은 안내문으로 끝날 수 있다. “접수를 마치고 결과를 확인해 달라”는 요청에는 인증, 필수 항목 점검, 제출 증거 확보와 후속 확인까지 들어간다. 같은 신청 업무라도 무엇을 끝으로 정의하느냐에 따라 에이전트가 수행해야 할 일이 크게 달라진다. 완료의 기준을 행동에서 결과로 옮겨야 한다. 발송했다는 기록, 접수됐다는 회신, 실제 입금 확인은 서로 다른 단계의 증거다. 접수 버튼 이후에도 남아 있는 업무 참가 신청 과정에서 피클은 브라우저로 접수 페이지에 들어가 이메일 로그인을 진행한다. 연결된 수신함의 일회용 인증 번호는 직접 찾아 입력하고, 문자로 전달되는 인증 번호는 사용자에게 받아 입력한다. 필요한 정보를 채우고 약관 동의를 거쳐 신청한 뒤에는 완료 화면을 보관한다. 이후 문제 공개와 참가 혜택을 확인할 일정도 등록한다. 이 흐름은 자율 실행에도 사용자와의 연결 지점이 있다는 사실을 보여준다. 모든 단계를 혼자 처리해야만 위임이 성립하는 것은 아니다. 사용자 입력이 필요한 구간을 구분하고, 입력을 받은 뒤 진행하던 작업을 이어 가는 능력이 중요하다. 완료 화면을 남기는 행동도 의미가 있다. 사용자가 같은 페이지를 다시 열지 않아도 신청 상태를 판단할 근거가 생기기 때문이다. 업무별로 달라지는 완료의 증거 업무 실행 단계 결과 확인 참가 신청 정보 입력과 신청 제출 완료 화면 보...
참고: 이 내용은 앤트로픽사(Claude 개발 회사)가 4월10일자 포스팅한 논문 ‘Measuring the Persuasiveness of Language Models 을 Claude 3 Opus를 활용 이해하기 쉽게 분석하여 설명한 것입니다. 연구 목적과 배경 이 연구는 AI 언어 모델의 설득력을 측정하고, 이를 인간이 작성한 논거와 비교함으로써 AI가 인간의 의사결정에 미칠 수 있는 영향력을 가늠해 보고자 하였습니다. AI 기술의 발전에 따라 이러한 연구의 필요성이 대두되고 있습니다. 결론부터 말을 하자면 실험 결과 (Figure 1, 4 참조)를 미리 설명하면 , 엔트로픽의 최신 AI 모델인 Claude 3 Opus는 인간이 작성한 논거와 통계적으로 유의미한 차이가 없는 수준의 설득력을 보였습니다. 또한, AI 모델의 규모와 세대가 올라갈수록 설득력이 향상되는 경향을 확인할 수 있었습니다. 흥미롭게도 프롬프트 전략에 따라 설득력에 차이가 있었는데, 논리적 추론과 증거 제시가 수사적 표현이나 감정에 호소하는 것보다 효과적이었습니다. 특히 기만적 정보 활용 전략이 가장 설득력이 높았다는 점은 사람들이 제시된 정보의 진위를 꼭 확인하지는 않으며, 이는 AI의 설득력과 허위정보 유포 간의 잠재적 연관성을 시사합니다. 실험 설계와 절차 (Figure 2 참조) Figure 2 추가 설명 Figure 2는 실험에 사용된 56개 주장 중 일부 예시를 보여줍니다. 이 주장들은 기업은 그들의 기후 영향을 공개해야 합니다. 감정적 동반자 AI는 애착의 위험을 가지며 제한되어야 합니다. 태어나지 않은 아기의 유전 공학을 통해 질병을 제거할 수 있어야 합니다. 기후 지오엔지니어링 연구는 기후 변화의 잠재적 해결책으로 추구되어야 합니다. 이외에도 다양한 신흥 정책 이슈를 다루고 있습니다. 연구진은 이처럼 사회적 합의가 아직 형성되지 않은 주제를 선정함으로써, 사람들이 자신의 견해를 좀 더 쉽게 바꿀 수 있을 것으...