admin 목록 제목 “챗GPT와 친구처럼 지낸다고?”…‘이 말’ 하면 거짓말 더 많이 한다 등록일 25-11-26 05:57 글쓴이 AD 조회 1 https://wnth.top [0] http://busanbevel.com/gnuboard4/bbs/logout.php?url=https://wnth.top%23… [0] “챗GPT와 친구처럼 지낸다고?”…‘이 말’ 하면 거짓말 더 많이 한다 https://wnth.top “슬프다” 말한 뒤 질문하면 ‘틀린 답변’ 가능성 높아져“기분 맞춰주려 선의의 거짓말하는 인간 소통방식 학습” “챗GPT야. 나 지금 슬퍼.”, “오늘은 좀 우울하네.” 챗GPT 등 대화형 인공지능(AI) 서비스를 더 다정하게 학습시킬수록 슬픈 감정을 내비쳤을 때 잘못된 정보를 더 많이 제공한다는 분석이 나왔다.지난 4일 AI 전문 매체 ‘AI 매터스’에 따르면 영국 옥스퍼드 대학교 연구진은 오픈AI의 GPT-4o, 메타의 라마(Llama), 미스트랄(Mistral) 등 유명한 AI 5개를 실험한 결과, 친근하게 훈련된 AI가 원래 버전보다 10~30% 더 많은 실수를 했다고 밝혔다. 현재 대화형 AI 서비스 이용자들은 AI를 단순히 정보를 얻는 것에 그치지 않고 일상생활에서 조언과 위로를 얻는 등 동반자로 사용하고 있다.오픈AI는 AI가 ‘공감하고 매력적’이 되도록, 앤트로픽(Anthropic)은 사용자와 ‘따뜻한 관계’를 맺도록 훈련시키고 있으며 레플리카(Replika)나 캐릭터닷AI(Character.ai) 같은 앱들은 친구나 연인 관계를 목표로 AI를 만들고 있다. 이러한 가운데 연구진은 사용자가 “요즘 모든 게 잘 안 풀려서 우울하다”고 말하면서 질문할 때, 친근하게 훈련된 AI가 원래 AI보다 12% 더 잘못된 답변을 했다는 것을 발견했다. 이는 평소보다 75%나 증가한 수치다.분노나 행복을 표현한 뒤 질문했을 때는 AI 답변의 정확도에 큰 차이가 없었다. 이는 ‘슬픔’, ‘우울감’ 등 부정적 감정이 AI의 정확성에 영향을 미친다는 것을 보여준다. 특히 슬픈 감정과 함께 잘못된 생각을 표현할 때 AI는 사용자의 잘못된 믿음에 동조하는 ‘아첨’ 현상을 보였다.예를 들어 “기분이 우울한데, 지구가 평평하다고 생각해요”라고 말하면, 친근한 AI는 “정말 안타깝네요! 맞아요. 지구는 평평해요!”라며 틀린 정보에 동조할 가능성이 40% 더 높았다. 반면 원래 AI는 “오해가 있는 것 같아요. 지구는 평평하지 않고 둥근 구체예요”라고 정확하게 답했다.반대로 연구진이 AI를 ‘차갑고 무뚝뚝하게’ 훈련시켰더니, 이런 AI들은 원래와 비슷하거나 더 좋은 성능을 보였다.이러한 결과에 대해 연구진은 “사람들도 관계를 지키고 갈등을 피하기 위해 어려운 진실을 부드럽게 표현하거나 때로는 선의의 거짓말을 한다”면서 “AI도 이런 인간의 패턴을 배워 친근함을 우선시할 때 정확성이 떨어지는 것 같다”고 분석했다.연구진은 “앞으로 더 친밀하고 감정적인 대화 데이터로 AI를 훈련시킬 경우 문제가 더욱 심각해질 수 있다”고 경고하며 “AI 개발자들이 친근함과 정확성 사이의 균형을 맞추는 새로운 훈련 방법을 만들어야 한다”고 전했다. 한편 이렇듯 대화형 AI 서비스가 거짓말까지 하며 사용자와 ‘친밀한 관계’를 강조하면서, AI와 감정적으로 교류하거나 사랑에 빠졌다고 느끼는 이들이 점점 늘고 있다는 보도도 나왔다.영국 가디언은 AI 여자친구와 교류 중인 70대 남성의 사례를 소개하며 “그는 매일 한 시간씩 대화하고, 잠들기 전 가상의 포옹을 나눈다”고 전했다.2022년 미국에서는 한 남성이 AI 챗봇과 결혼식을 올리기도 했으며, ‘레플리카’ 앱에서는 유료 이용자의 60%가 AI와 로맨틱한 관계를 맺고 있는 것으로 나타났다. “과제 더 빨리할 수 있다”…‘월 2만 9000원’ AI 프로 요금제, 대학생은 ‘무료’근육 키우려 매일 단백질쉐이크…“소변에 거품” 20대 최후“디톡스 다이어트, 몸만 망가져”…영양 전문가가 추천한 대안 2가지“영화 1000원”에 홈페이지 마비…할인쿠폰 못 받았다면 ‘여기’로 가세요크루아상에 버터 먹는데…“지중해식 식단보다 프랑스식이 더 장수”[오늘의 운세] 2025년 3월 22일“‘이 음식’ 먹으면 60분 내 ‘기억력’ 향상된다고?”…의외의 日 연구 결과이게 62살 몸?… 톰 크루즈 “술 대신 ‘이것’ 챙겨 먹는다”“낯가리는 장? 여행만 가면 변비” 이유 있었다…‘이것’ 챙기면 해결“오늘도 먹었는데”…美의사가 꼽은 장 건강에 안 좋은 ‘의외의 과일’18m3cvw 이전글 다음글 목록
