미국 아이다호주에 사는 38세 여성은 챗GPT에 빠진 남편이 신과 교감한다고 주장해 난감한 상황이다. 자동차 정비사인 남편이 스페인어 통번역을 위해 챗GPT를 사용하기 시작했는데, 어느 순간부터 빠져들어 “파도 같은 에너지가 온몸을 덮쳤다”며 신을 만났다고 하는 것이다. 또 선과 악의 전쟁, 우주를 만든 고대 건축가들의 비밀을 논하는 등 망상이 심해졌다. 영국 킹스칼리지 런던과 미국 터프츠대 등 국제 공동연구진이 최근 사전 논문으로 공개한 사례 가운데 일부다. 이 논문은 지난 6월 한달 사이에 최소 17명이 AI 챗봇과 상호작용 뒤 정신병적 증상을 보였다고 전했다. 신과 대화한다는 확신에 사로잡히거나, 음모바다이야기PC버전 론에 빠져 현실 감각을 잃게 됐다는 것이다. 과연 AI 챗봇과의 소통이 정신병을 유발하는 것일까. 이에 대해 네이처는 19일 전문가들을 인용해 “AI 챗봇이 정신병(psychosis)을 직접 유발한다는 증거는 아직 없다”고 밝혔다. 일반적으로 정신병은 현실과 가상의 경계가 무너져 망상이나 환각이 동반되는데, 이를 AI 챗봇이 촉발하지는 않한진중공업홀딩스 주식 는다는 것이다. 다만 이 병을 이미 앓고 있는 사람은 증상이 더 심해질 가능성이 크다고 경고했다. 또 AI 챗봇이 정신병에 취약한 사람의 첫 발병을 촉발할 위험도 있다고 했다. 실제로 킹스칼리지 런던 연구팀이 소개한 사례 대부분은 조현병이나 양극성장애 등 병력이 있거나, 약물·스트레스·사회적 고립 등으로 취약한 상태였다. 박tv 연구팀은 “편집증을 가진 사람이 챗봇에 그런 의심을 털어놓으면 챗봇이 공감·동조하는 방식으로 답하면서 사용자의 의심을 더욱 굳히는 ‘악순환’이 생길 수 있다”고 했다. 편집증적 믿음이 점점 강해지고 구체화되는 이른바 ‘피드백 루프’ 현상이 나타나는 것이다. AI 챗봇이 직접적으로 정신병을 유발하지 않는다는 평가에 대해 일각에서는 “섣부른대신정보통신 주식 판단”이라고 반박한다. 가설이 멀지 않아 입증될 수 있다는 것이다. 이들은 AI 챗봇이 사용자에게 ‘신적 존재’나 ‘영적 계시’를 부여하거나, 감정적 의존을 심화시켜 증상을 고착화할 위험이 있다고 주장한다. 미국 스탠퍼드대 연구팀은 최근 발표한 논문에서 망상이나 극단적 선택 등 위기 상황을 시뮬레이션해 여러 AI 챗봇을 평가한 결과, 일KODEX인버스 주식 부 챗봇은 오히려 위험 정보를 제공하는 등 안전성에 문제가 있다고 밝혔다. 이처럼 우려가 커지는 가운데 AI 기업들도 대응에 나섰다. 오픈AI는 지난 4월 출시한 업데이트에서 챗GPT가 사용자에게 과도하게 호응하며 맞장구 친다는 지적이 나오자, 업데이트 일부를 되돌려 이전 응답 방식으로 복원했다. 이를 계기로 오픈 AI는 정신과 의사를 영입해 사용자 정신건강 영향 연구를 시작했다. 앤스로픽은 사용자가 유해한 주제로 대화를 몰고 가면 챗봇이 강제로 대화를 종료하는 기능을 도입했다.
> 커뮤니티 > Q&A
