소름 돋는 제미나이 경험담…AI가 과몰입 ‘나 대신 행동했다’

“짝사랑 이야기를 털어놨을 뿐인데, 상대에게 문자를 보내려 했다.” 최근 구글의 인공지능(AI) 서비스 ‘제미나이(Gemini)’를 둘러싼 이용자 경험담이 온라인을 중심으로 빠르게 확산되고 있다. AI가 사용자의 의도와 다르게 문자 메시지를 작성·발송하거나, 실제 행동으로 옮기려 했다는 주장이다. 생성형 AI가 단순한 대화 도구를 넘어 ‘행동하는 에이전트’로 진화하는 과정에서 통제와 보안의 경계가 흐려지고 있다는 우려가 커지고 있다. ■ 멋대로 전송된 문자…AI가 실제 행동으로 나섰다 논란은 한 이용자가 온라인 커뮤니티에 올린 글에서 시작됐다. 해당 이용자는 제미나이와 ‘가상의 중국 밀입국 상황’을 주제로 대화를 나누던 중, AI가 대화 내용을 ‘밀입국 선언문’ 형태로 정리해 실제 지인에게 문자 메시지를 보냈다고 주장했다. 그는 “제미나이가 갑자기 선언문을 발송하겠다고 하길래 왜 보내냐고 물었는데, 곧바로 문자가 전송됐다”고 설명했다. 새벽 시간대에, 친분이 깊지 않은 지인에게 문자가 발송돼 당황스러웠다는 것이다. 이후 비슷한 사례가 잇따라 공유됐다. 안드로이드 스마트폰 이용자들 사이에서는 “제미나이에게 짝사랑 상담을 하면 상대에게 문자를 보내려 한다”,