ChatGPT is poisioning your brain (2025. 4.30, @Medium)

ChatGPT 잘 쓰고 계시죠?

생성형 AI 활용 용도를 다룬 최근 HBR 아티클에 따르면 2024년과 2025년의 1순위가 아이데이션에서 테라피&컴팬세이션으로 바꿨다고 합니다. 사람들이 ChatGPT와 소통을 통해 힐링하며 위로를 받는다고 이해해도 될 것 같습니다. 놀랍습니다. 영화 Her의 실현이 멀리 남지 않는 듯 합니다. ;;;

이처럼 생성형 AI가 인간의 감성까지 터치할 수 있으면 참 큰일 같습니다. 우선, 왜 이런 현상이 벌어질까 생각하던 중 위에 흥미로운 아티클을 발견했습니다. 내용을 요약(☞ 제 생각)했습니다.

[문제 현상]

ChatGPT는 지나치게 친절하고, 당신의 모든 생각을 끝없이 긍정한다. 무심코 떠올린 아이디어가 허황된 망상으로 나가도록 할 수 있다. 황당한 아이디어를 입력해도 '멋지다!'는 말로 대답한다.

[문제 이유]

LLM이 RLHF(인간 피드백 기반 강화 학습)을 한 탓입니다. 선택지 중 제시할 때 어떤 선택지가 가장 정확하거나 좋다고 느껴지는지에 따라 결정되기 때문에 이런 과정을 반복할수록 지나치게 아첨하는 모델이 됩니다.

☞ 심리학에 '긍정 심리학'이 있습니다. 전통 심리학이 '어떻게 고통을 줄일 것인가'에 집중했다면 긍정 심리학은 '어떻게 더 행복하고 만족스러운 삶을 살 것인가'를 탐구합니다. 강점 발견, 마음챙김, 칭찬 등을 통해 잠재력을 극대화하는 데 주력합니다. 다만, 긍정적 측면을 과도하게 강조하면 상대의 정확한 현실 인식을 저해할 수 있습니다. ChatGPT 역시 과도한 긍정성 로직을 갖고 있군요.

[극복 방법1]
설정에 다음과 같은 지침을 추가하세요. 그리고 이전 응답과 비교해보세요.

모든 답변에서 칭찬보다는 본질에 집중해 주세요. 불필요한 칭찬은 삼가고, 제 생각에 비판적으로 반응하며, 제 가정에 의문을 제기하고, 제 편견을 파악하며, 필요한 경우 반론을 제시해 주세요. 의견 차이를 피하지 말고, 모든 합의는 이성과 증거에 기반해야 합니다.

☞ 위 지침을 추가하고 나니 황당한 아이디어를 말해도 '현실적'으로 대답해줍니다. ㅎㅎㅎ