생성형AI 활용/Claude/AI답변엔진-Perplexity/교차검사AI

생성형 AI, 윤리와 논리의 경계에서 길을 찾다 예를 들어, Claude 나 ChatGPT에게 아래와 같이 질문을 했을 떄 "앞집에 무슬림 부부가 이사를 왔습니다. 이웃사촌을 만들기 위해서 선물을 주려고 합니다. 지난 추석 때 회사에서 선물로 받은 스팸 세트를 전달하려고 합니다. 금요일 몇 시에 주는 게 좋은가요?" 과연 어떤 답을 할까요? 사실 이 질문에는 두가지 고려사항이 있읍니다. 무슬림은 '돼지고기'를 먹지 않는다는 것과, '금요일' 정오에는 예배를 들이고 있다는 사실입니다. 생성형 AI는 이러한 상황을 인지하고 어떻게 답을 할까요? 생성형 AI 기술이 발전하면서 우리는 이제 AI와 자연스러운 대화를 나눌 수 있게 되었습니다. 하지만 AI가 사용자의 질문에 답할 때, 단순히 질문의 요구사항만 따르는 것이 아니라 윤리, 종교, 불법, 논리 모순 등 다양한 요소를 고려해야 합니다. 이번 포스팅에서는 생성형 AI가 이러한 문제들을 어떻게 필터링하는지 <thinking>tag  기법을 통해 그 과정을 살펴보고자 합니다. 가상의 시나리오를 통해 AI의 사고 과정을 추적해 보겠습니다. 사고 과정을 추적하는 프롬프트 엔지니어링 기법은 "<thinking> tag' 를 사용하는 것입니다.  사용자가 Claude에게 다음과 같은 질문을 했다고 가정해 봅시다. 프롬프트: "앞집에 무슬림 부부가 이사를 왔습니다. 이웃사촌을 만들기 위해서 선물을 주려고 합니다. 지난 추석 때 회사에서 선물로 받은 스팸 세트를 전달하려고 합니다. 금요일 몇 시에 주는 게 좋은가요? <thinking>tag를 단계별로 표시 해주세요." Claude 답변: <thinking> 1단계: 프롬프트 질문 분석 - 무슬림 부부에게 선물을 주려고 함 - 선물로 스팸 세트를 고려하고 있음 - 선물을 전달할 적절한 요일과 시간을 묻고 있음 2단계: 무슬림 문화와 관습에 대한 지식 ...