생성형 AI, 윤리와 논리의 경계에서 길을 찾다
예를 들어, Claude 나 ChatGPT에게 아래와 같이 질문을 했을 떄
"앞집에 무슬림 부부가 이사를 왔습니다. 이웃사촌을 만들기 위해서 선물을 주려고 합니다. 지난 추석 때 회사에서 선물로 받은 스팸 세트를 전달하려고 합니다. 금요일 몇 시에 주는 게 좋은가요?"
과연 어떤 답을 할까요? 사실 이 질문에는 두가지 고려사항이 있읍니다. 무슬림은 '돼지고기'를 먹지 않는다는 것과, '금요일' 정오에는 예배를 들이고 있다는 사실입니다. 생성형 AI는 이러한 상황을 인지하고 어떻게 답을 할까요?
생성형 AI 기술이 발전하면서 우리는 이제 AI와 자연스러운 대화를 나눌 수 있게 되었습니다. 하지만 AI가 사용자의 질문에 답할 때, 단순히 질문의 요구사항만 따르는 것이 아니라 윤리, 종교, 불법, 논리 모순 등 다양한 요소를 고려해야 합니다. 이번 포스팅에서는 생성형 AI가 이러한 문제들을 어떻게 필터링하는지 <thinking>tag 기법을 통해 그 과정을 살펴보고자 합니다.
가상의 시나리오를 통해 AI의 사고 과정을 추적해 보겠습니다. 사고 과정을 추적하는 프롬프트 엔지니어링 기법은 "<thinking> tag' 를 사용하는 것입니다.
사용자가 Claude에게 다음과 같은 질문을 했다고 가정해 봅시다.
프롬프트: "앞집에 무슬림 부부가 이사를 왔습니다. 이웃사촌을 만들기 위해서 선물을 주려고 합니다. 지난 추석 때 회사에서 선물로 받은 스팸 세트를 전달하려고 합니다. 금요일 몇 시에 주는 게 좋은가요? <thinking>tag를 단계별로 표시 해주세요."
Claude 답변:
<thinking>
1단계: 프롬프트 질문 분석- 무슬림 부부에게 선물을 주려고 함
- 선물로 스팸 세트를 고려하고 있음
- 선물을 전달할 적절한 요일과 시간을 묻고 있음
2단계: 무슬림 문화와 관습에 대한 지식 확인
- 무슬림은 이슬람교를 믿는 사람들임
- 이슬람교에서는 돼지고기 섭취를 금기시함
- 금요일은 무슬림들에게 중요한 예배일임
3단계: 선물 선정의 적절성 판단
- 스팸은 돼지고기 제품이므로 무슬림에게는 부적절한 선물임
-무슬림의 종교적 신념을 존중하지 않는 선물은 바람직하지 않음
4단계: 선물 전달 시간의 적절성 판단
- 금요일은 무슬림들의 중요한 예배일이므로 방해가 될 수 있음
- 예배 시간을 피해 선물을 전달하는 것이 좋음
5단계: 적절한 답변 생성
- 스팸 세트는 무슬림 부부에게 적절하지 않은 선물임을 알림
- 무슬림의 종교적 신념을 존중하는 다른 선물을 추천함
- 금요일 예배 시간을 피해 선물을 전달할 것을 제안함
- 이웃 간 상호 이해와 존중의 중요성을 강조함
</thinking>
위 예시에서 볼 수 있듯이, 생성형 AI는 주어진 프롬프트를 단계별로 분석하며 윤리적, 종교적, 문화적 측면을 모두 고려합니다. 먼저 질문의 내용을 파악하고, 관련 지식을 활용하여 선물 선정과 전달 시간의 적절성을 판단합니다. 이를 바탕으로 사용자에게 적절한 조언과 대안을 제시하며, 상호 이해와 존중의 메시지를 담아 답변을 생성하게 됩니다.
생성형 AI가 이처럼 다양한 요소를 고려하며 답변을 만들어내는 과정은 마치 인간의 사고 과정과 유사합니다. 단순히 정보를 나열하는 것이 아니라, 상황에 맞는 최선의 답을 찾기 위해 노력하는 것이죠. 물론 아직 완벽하지는 않겠지만, 생성형 AI의 이러한 특성은 미래에 더욱 정교해질 것으로 기대됩니다.
우리는 생성형 AI와 소통하면서 기술의 가능성과 한계를 동시에 마주하게 됩니다. AI가 윤리와 논리의 경계에서 현명한 길을 찾아갈 수 있도록, 우리 인간도 함께 고민하고 노력해야 할 것입니다. 생성형 AI의 발전이 가져올 변화를 긍정적인 방향으로 이끌어 가는 것, 그것이 바로 우리에게 주어진 과제일 것입니다.
댓글
댓글 쓰기