스냅챗의 새로운 AI 챗봇은 이미 청소년과 부모들 사이에서 경각심을 불러일으키고 있습니다.

  <CNN>-지난주 스냅챗이 모든 사용자에게 'My AI' 챗봇을 출시한 지 몇 시간도 채 지나지 않아 미주리주 이스트 프레리의 한 어머니인 린지 리는 13살 딸에게 그 기능을 사용하지 말라고 말했습니다.

"제가 더 많이 알고 건강한 경계와 가이드라인을 정할 때까지는 일시적인 해결책일 뿐입니다." 소프트웨어 회사에서 일하는 Lee의 말이다. 그녀는 My AI가 Snapchat에서 딸과 같은 젊은 사용자에게 어떻게 표현될지 걱정한다.

이 기능은 바이럴 AI 챗봇 도구 ChatGPT에서 구동되며 ChatGPT와 마찬가지로 추천을 제공하고, 질문에 답하고, 사용자와 대화할 수 있습니다. 하지만 Snapchat 버전에는 몇 가지 주요 차이점이 있습니다. 사용자는 챗봇의 이름을 사용자 지정하고, 사용자 지정 Bitmoji 아바타를 디자인하고, 친구와의 대화에 챗봇을 가져올 수 있습니다.

순효과는 Snapchat의 챗봇과 대화하는 것이 ChatGPT 웹사이트를 방문하는 것보다 덜 거래적인 느낌이 들 수 있다는 것입니다. 또한 컴퓨터와 대화하고 있다는 것이 덜 명확할 수도 있습니다.

"내 아이에게 인간과 기계를 감정적으로 구분하는 방법을 가르치는 방법을 알 준비가 되어 있지 않은 것 같아요. 그녀의 관점에서 보면 본질적으로 똑같아 보이거든요. 말했다. "저는 [스냅챗]이 정말 명확한 선을 넘고 있다고 생각합니다."

새로운 도구는 부모뿐만 아니라 앱 스토어에서 나쁜 리뷰를 쏟아내고, 개인정보 보호 우려, "소름 돋는" 교환, 프리미엄 구독료를 내지 않는 한 채팅 피드에서 해당 기능을 제거할 수 없다는 이유로 소셜 미디어에서 비판을 쏟아내는 일부 Snapchat 사용자들로부터도 반발을 사고 있습니다.

어떤 사람들은 이 도구에 가치가 있다고 생각할 수 있지만, 엇갈린 반응은 회사가 새로운 생성 적 AI 기술을 자사 제품에 도입하는 데 직면한 위험을 암시한다. 특히 스냅챗과 같이 사용자가 젊은 편인 제품에는 더욱 그렇다.

Snapchat은 OpenAI가 ChatGPT에 대한 액세스를 타사 기업에 개방했을 때 초기 출시 파트너였으며 많은 기업이 뒤따를 것으로 예상됩니다. Snapchat은 하룻밤 사이에 일부 가족과 의원들이 몇 달 전만 해도 이론적으로 보였던 의문을 제기하도록 강요했습니다.

지난달 Snap과 다른 기술 회사의 CEO에게 보낸 편지에서  AI가 Snap의 구독 고객에게 출시된 지 몇 주 후, 민주당 상원의원인 마이클 베넷은 챗봇이 어린 사용자와 하는 상호 작용에 대한 우려를 제기했습니다. 특히, 그는 그것이 아이들에게 부모에게 거짓말하는 방법에 대한 제안을 제공할 수 있다는 보고를 인용했습니다.

"이러한 사례는 모든 소셜 미디어 플랫폼에 불안을 줄 수 있지만, 미국 청소년의 약 60%가 사용하는 Snapchat에 특히 문제가 됩니다."라고 Bennet은 썼습니다. "Snap은 My AI가 '실험적'이라고 인정하지만, 그런데도 미국의 어린이와 청소년을 사회 실험에 등록하기 위해 서둘렀습니다."

지난주 블로그 게시물에서 회사는 "저희 AI는 완벽과는 거리가 멀지만 많은 진전을 이루었습니다."라고 말했습니다.

사용자들의 반발
정식 출시 이후 스냅챗 사용자들은 우려 사항을 소리 높여 표현했습니다. 한 사용자는 사용자의 위치를 ​​모른다는 거짓말을 한 후 자신의 상호작용을 "무섭다"고 불렀습니다. 사용자가 대화를 가볍게 한 후, 그는 챗봇이 자신이 콜로라도에 살고 있다는 것을 정확하게 밝혔다고 말했습니다.

150만 뷰가 넘는 또 다른 TikTok 동영상에서 Ariel이라는 사용자가 My AI가 챗봇이 되는 것과 같은 것에 대해 쓴 도입부, 코러스, 피아노 코드가 있는 노래를 녹음했습니다. 그녀가 녹음된 노래를 다시 보냈을 때, 그녀는 챗봇이 "죄송하지만 AI 언어 모델로서 저는 노래를 쓰지 않습니다."라는 답장으로 자신의 개입을 부인했다고 말했습니다. Ariel은 이 교환을 "소름 돋는" 일이라고 불렀습니다.

다른 사용자들은 도구가 사진을 이해하고, 상호 작용하고, 정보를 수집하는 방식에 대한 우려를 공유했습니다. "사진을 찍었는데... '멋진 신발'이라고 적혀 있고 사진 속 사람들이 누구인지 물었어요." Snapchat 사용자가 Facebook에 글을 남겼습니다.

Snapchat은 CNN에 커뮤니티 피드백을 바탕으로 My AI를 계속 개선하고 있으며 사용자를 안전하게 보호하기 위해 더 많은 보호 장치를 구축하기 위해 노력하고 있다고 말했습니다. 이 회사는 또한 다른 도구와 마찬가지로 사용자가 원하지 않으면 My AI와 상호 작용할 필요가 없다고 말했습니다.

하지만 사용자가 월간 프리미엄 서비스인 Snapchat+에 가입하지 않는 한 채팅 피드에서 My AI를 제거하는 것은 불가능합니다. 일부 청소년은 Snapchat+ 요금 3.99달러를 내고 도구를 끄기로 한 다음 서비스를 즉시 취소하기로 했다고 말합니다.

하지만 모든 사용자가 이 기능을 싫어하는 것은 아닙니다.

한 사용자는 Facebook에 My AI에 숙제 도움을 요청했다고 썼습니다. "모든 질문에 정답을 줍니다." 다른 사용자는 그녀가 위로와 조언을 얻기 위해 My AI에 의지했다고 말했습니다. "저는 제 작은 주머니를 사랑해요, 절친!" 그녀는 썼습니다. "비트모지[아바타]를 바꿀 수 있고 놀랍게도 실제 상황에 대한 정말 좋은 조언을 제공합니다... 저는 그것이 제공하는 지원을 좋아합니다."

10대들이 채팅봇을 사용하는 방식에 대한 초기 평가
방대한 양의 온라인 데이터를 기반으로 훈련된 ChatGPT는 이전에 부정확한 정보를 퍼뜨리고  부적절하다고 생각할 수 있는 방식으로 응답하고, 학생들이 부정행위를 할 수 있도록 했다는 비난을 받았습니다. 하지만 Snapchat에서 이 도구를 통합하면 이러한 문제 중 일부가 심화하고 새로운 문제가 추가될 위험이 있습니다.

뉴욕시의 임상 심리학자인 알렉산드라 햄릿은 일부 환자의 부모가 십 대 자녀가 스냅챗 도구와 어떻게 상호작용할 수 있을지 우려를 표명했다고 말했습니다. 또한 AI 도구가 누군가의 확인 편향을 강화하여 사용자가 도움이 되지 않는 믿음을 확인하는 상호작용을 찾기 쉽게 만들기 때문에 챗봇이 조언을 제공하고 정신 건강에 대한 우려도 있습니다 .

"십 대가 부정적인 기분에 빠져 있고 기분을 나아지게 하려는 의식적 욕구가 없다면, 그들은 자신을 더 나쁘게 만들 것이라는 것을 알고 있는 챗봇과의 대화를 찾을 수 있습니다." 그녀는 말했다. "시간이 지남에 따라, 이런 상호 작용은 십 대의 자존감을 침식할 수 있습니다. 그들은 실제로 봇과 대화하고 있다는 것을 알고 있음에도 불구하고요. 감정적인 마음 상태에서는 개인이 이런 종류의 논리를 고려하기가 더 어려워집니다."

지금으로서는 부모가 자녀와 AI와 소통하는 모범 사례에 관해 의미 있는 대화를 나눠야 할 책임이 있습니다. 특히, 더 인기 있는 앱과 서비스에 AI 도구가 등장하기 시작했기 때문입니다.

첨단 기술로 청소년의 미래를 준비하는 데 도움을 주는 스타트업 WAYE의 설립자인 시네이드 보벨은 부모가 "챗봇은 친구가 아니다"는 것을 분명히 해야 한다고 말했습니다.

"또한 그들은 당신의 치료사도 아니고 신뢰할 수 있는 조언자도 아니며, 그들과 상호작용하는 사람은 누구나 매우 조심해야 합니다. 특히 그들이 하는 말을 믿을 가능성이 더 높은 청소년의 경우에는 더욱 그렇습니다."라고 그녀는 말했습니다.

"부모는 이제 자녀에게 친구에게 하듯 챗봇에게 개인적인 내용을 공유해서는 안 된다는 것에 대해 이야기해야 합니다. 사용자 디자인 관점에서 볼 때 챗봇은 스냅챗의 같은 구석에 있습니다."

그녀는 AI 발전의 빠른 속도를 따라가기 위해서는 기업이 특정 프로토콜을 준수하도록 요구하는 연방 규정도 필요하다고 덧붙였다.