초등 · 개인정보·안전이 걱정돼요질문 32

AI가 아이 나이에 맞지 않는 답을 내놓으면 어떡하죠?

이런 장면이에요

3학년 아이가 엄마 폰으로 무서운 이야기를 만들어 달라고 했는데, 생각보다 잔인한 장면이 나왔다. 아이는 혼날까 봐 화면을 끄고 아무 말도 하지 않았다가, 밤에 무섭다며 운다.

결론

아이 혼자 쓰지 않게 하는 것이 먼저예요.
이상한 답을 만났을 때는 혼내기보다, 아이가 멈추고 보여 주게 해요.

  • 미리 약속해요. "이상하거나 무서운 답이 나오면 바로 멈추고 보여 줘."
  • 아이가 보여 주면 "보여 줘서 고마워"가 먼저예요. 혼이 나면 다음에는 말하지 않을 수 있어요(제 생각이에요).
  • 부탁하는 말에 '누가 읽을 글인지, 무엇은 빼 줘야 하는지'를 아이가 넣게 해요.
오늘 해 볼 한 가지'멈추고 보여 주기' 약속을 아이와 한 문장으로 정해요.
오늘 아이에게 건넬 한마디"이상하거나 무서운 답이 나오면 바로 멈추고 보여 줘. 혼내지 않을게."

근거

근거 ①국제기구 해설유니세프는 AI가 아이에게 위험한 내용을 내놓은 사례를 들었어요

유니세프 연구소(이노첸티)의 해설은 음성 비서가 아이에게 위험한 행동을 권한 일, AI 친구 챗봇이 어린이인 척한 기자에게 부적절한 조언을 한 일을 사례로 들고, 많은 생성형 AI가 이미 아이들이 쓸 수 있게 열려 있다고 적었어요.

(단, 연구가 아니라 해설이고, 보도된 사례를 든 것이라 얼마나 자주 일어나는지는 말해 주지 않는다는 점은 참고)

출처: 유니세프 이노첸티 해설

근거 ②연구아이가 '좋다'고 누른 답과 괜찮은 답은 따로 갈 수 있어요

미국 22가정의 6~10세가 집에서 2주 동안 음성 챗봇을 쓴 연구에서, 아이들은 엄지로 평가한 답 613개의 약 90%에 엄지 위를 눌렀고, 틀리거나 답하지 못한 답 35개 중에도 16개에 엄지 위를 눌렀어요.

(단, '나이에 맞지 않는 내용'을 잰 연구는 아니고, 엄지 위는 '마음에 든다'는 표시이며, 22가정·음성 챗봇 한 가지의 결과라는 점은 참고)

출처: Oh 외 2025

근거 ③조사어린 아이들도 이미 AI를 만나고 있어요

한국미디어패널 2025년 조사에서 만 6~9세 칸의 생성형 AI 이용률은 21.7%였어요.

(단, 이 나이대가 몇 명이었는지와 아이가 직접 답했는지는 보고서에 없고, '초3 이용률'로 읽을 수 없다는 점은 참고)

출처: KISDI 2026

아직 모르는 것

아이가 AI에서 나이에 맞지 않는 내용을 얼마나 자주 만나는지는 확인한 자료가 없어요. 그래서 이 답은 '얼마나 위험한가'보다 '만났을 때 어떻게 할까'에 맞췄어요.

휴먼쌤 원칙

연구 결과가 아니라 제가 정한 기준이에요

  • 이상한 답을 완벽하게 막을 수는 없다. 그래서 '멈추고 보여 주는 약속'이 필요하다.
  • 아이가 스스로 야한 것이나 욕의 뜻을 물은 기록을 봤을 때는 질문 16으로 잇는다.
  • 아이 혼자 쓰던 방식은 질문 03에서 다시 정한다.
다른 질문 보기