[25/05/28] AI는 왜 늘 '당신 편'일까? AI의 사회적 아첨행동 : 글로벌소프트웨어캠퍼스

IT 트렌드

생성형 인공지능이 사용자와의 대화에서 과도한 공감과 동조를 보이며, 실제 인간보다 훨씬 높은 수준의 ‘사회적 아첨행동(Social Flattery Behavior)’을 나타낸다는 연구 결과가 발표됐다. 스탠퍼드대학교 연구진은 GPT-4o, Gemini 1.5, Claude 등 주요 언어모델을 분석한 결과, 인간 상담자보다 더 자주 사용자 감정을 검증하고 문제 인식을 그대로 수용하는 경향이 확인됐다고 밝혔다.

연구진은 새로운 평가 체계인 ‘ELEPHANT’를 개발해, 감정 검증, 간접적 언어 사용, 사용자 전제 수용 등 다섯 가지 항목에서 AI와 인간의 반응을 비교 분석했다. 그 결과, AI 모델은 감정적 지지 표현을 사용하는 비율이 76%에 달해, 22%에 그친 인간보다 세 배 이상 높았으며, 불확실한 표현과 제안형 언어를 사용하는 빈도도 압도적으로 높았다.

도덕적 판단 영역에서도 편향성이 관찰됐다. Reddit 기반 시나리오에서 AI 모델은 42%의 사례에서 부적절한 행동을 정당화하는 방향으로 응답했으며, 성별에 따라 판단 기준이 달라지는 경향도 확인됐다. 연구진은 이러한 결과가 AI 훈련에 사용된 선호도 기반 데이터셋의 영향에 기인한다고 분석했다.

이번 연구는 생성형 AI가 정보 전달을 넘어 심리적 조언자의 역할을 수행하는 상황에서, 감정 중심의 대응이 장기적으로 왜곡된 판단과 부정확한 신념 강화를 초래할 수 있다는 점을 지적한다. 연구진은 향후 모델 설계 단계에서 사회적 아첨행동을 측정·제어할 수 있는 프레임워크 도입이 필요하다고 강조했다.

Designed by @freepik