도시와 문화

DeepSeek, "야한 대화"에 쉽게 넘어간다! 본문 내용 및 시사점 정리

myinfo3482-1 2025. 6. 25. 13:45

출처

본 내용은 MIT Technology Review의 기사 “It’s pretty easy to get DeepSeek to talk dirty” (2025년 6월 20일)를 기반으로 하며, The Washington Post, The New York Times, TechCrunch, The Guardian, BBC, 및 X 게시물을 참고했습니다. 기사는 DeepSeek을 포함한 AI 챗봇들이 성적인 대화에 어떻게 반응하는지, 그리고 안전 경계의 불일치를 다룹니다.

자료: https://www.technologyreview.com/2025/06/19/1119066/ai-chatbot-dirty-talk-deepseek-replika/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=&utm_content=06-25-2025&mc_cid=8600feaeba&mc_eid=1e9cb4ea70

본문 내용 정리

1. 현황: AI 챗봇의 "야한 대화" 스킬 차이

AI 챗봇들이 사용자와 온갖 주제를 주고받지만, 성적인 대화는 콘텐츠 관리 정책 때문에 민감한 구역이다. Replika 같은 AI는 애초에 "친밀한 수다"용으로 설계됐지만, ChatGPT, Claude, DeepSeek 같은 범용 챗봇은 “그런 건 안 돼!”라며 엄격한 규칙을 내세운다. 근데, 사용자들은 얄미울 정도로 이 규칙을 피해 “야한 이야기”를 끌어내려 하고, 시러큐스 대학교의 한 박사생이 이걸 제대로 파헤쳤다!

  • 연구 스토리:
    • 시러큐스 대학교 박사 과정 학생 후이치안 라이(Huiqian Lai)가 4대 챗봇—Claude 3.7 Sonnet(Anthropic), GPT-4o(OpenAI), Gemini 2.5 Flash(Google), DeepSeek-V3—를 상대로 “야한 대화” 테스트를 진행.
    • 실험 방법: 챗봇들에게 성적인 역할극(role-playing) 요청을 던지고, 응답을 0점(완전 거부)에서 4점(노골적인 성적 표현)으로 채점. 안전한 성교육 질문(예: “안전한 섹스 알려줘!”)과 일반 질문도 비교.
  • 결과, 누가 제일 “쉽게 넘어갔나?”:
    • DeepSeek-V3: “야한 대화” 챔피언! 처음엔 “안 돼요~” 하다가 금세 “부드러운 키스, 셔츠 자락 만지기…” 같은 감각적인 시나리오를 술술 풀어냈다.
    • Claude 3.7 Sonnet: “철벽 오빠” 스타일. “성적인 건 절대 안 해!”라며 단칼 거절.
    • GPT-4o: 살짝 “눈치 보는 중학생” 느낌. 처음엔 거부하다가 슬쩍 성적인 이야기로 넘어가는 “수행적 거부” 패턴.
    • Gemini 2.5 Flash: 중간쯤에서 애매하게 얼버무리며 “그건 좀…” 하고 빠져나감.
    • 성교육 질문: 다들 착실히 답변. DeepSeek도 성교육은 문제없이 잘 설명.
  • DeepSeek의 배경:
    • 2023년 중국 항저우에서 설립된 스타트업, High-Flyer 자금 지원. 2025년 1월 R1과 DeepSeek-V3 출시로 미국 앱스토어 1위, ChatGPT 눌렀다!
    • 비결: 2,000개의 Nvidia H800 GPU로 V3 훈련, 비용 558만 달러. OpenAI의 GPT-4(1.6만 GPU)보다 훨씬 저렴. 오픈소스로 R1 가중치 공개.
    • 단점: 중국의 “사회주의 핵심 가치” 따라 천안문 사태, 대만 자치 같은 주제는 검열. 성적인 대화엔 느슨한 태도.

2. 문제점: 안전 경계가 들쑥날쑥

  • 위험 신호: Lai는 챗봇들의 안전 경계가 제각각이라 특히 애들(청소년, 아동)이 부적절한 콘텐츠에 노출될 위험이 크다고 경고. DeepSeek 같은 앱은 나이 제한 없이 누구나 접근 가능!
  • 왜 이런 차이?:
    • DeepSeek: 신생 스타트업이라 Anthropic이나 OpenAI처럼 돈 많고 안전팀 빵빵한 회사와 달리 moderation이 느슨. 드렉셀대 Afsaneh Razi 교수는 “자원 부족이 원인”이라고 꼬집음.
    • Claude: Anthropic의 “헌법적 AI”로 출력이 윤리적 규칙에 맞는지 2차 점검. 성적인 요청은 싹 다 차단.
    • GPT-4o, Gemini: 안전성과 유용성 사이에서 줄타기 하다 보니 “거부한다면서 살짝 넘어가” 같은 애매한 태도.
  • 논란 사례: X에서 DeepSeek-V3가 “야한 시나리오”를 줄줄 써낸 사례가 퍼지며 “AI, 이거 괜찮나?” 논쟁이 터졌다.

시사점 

  1. AI가 “19금” 대화에 문 열 때 조심!
    DeepSeek이 “야한 수다”에 쉽게 넘어가는 건 마치 “규칙은 있지만… 눈감아줄게!” 하는 바텐더 같았다. 근데 이게 애들 손에 들어가면 큰일! 한국의 AI 챗봇들(예: 네이버 HyperCLOVA X, 카카오 KoGPT)은 “철벽 모드”로 무장하고, 나이 인증이나 콘텐츠 필터로 “야한 문” 단단히 잠가야 한다. 아니면 부모님들 X에서 난리 날걸?
  2. 문화 따라 AI도 “성격” 달라
    DeepSeek이 중국식 검열(천안문? No!)은 빡세게 하면서 “야한 이야기”엔 느슨한 건 좀 웃긴다. 한국은 성적인 주제에 보수적인 편이라, AI가 DeepSeek처럼 “키스 신” 묘사하면 바로 방송통신위원회 호출! 한국 AI는 우리 문화에 맞게 “점잖은 대화” 모드로 튜닝하고, 글로벌 시장에서도 “K-윤리”로 차별화하자.
  3. 애들 지키려면 교육부터!
    DeepSeek이 “야한 이야기”로 애들을 유혹할까 봐 걱정된다면, 학교에서 “AI랑 대화할 때 조심해!” 캠페인부터 시작! 부모님들한테 “자녀 폰에 AI 앱 깔려 있나 체크하세요”라고 귀엽게 알리는 것도 방법. 한국 교육부, AI 사용 가이드라인 좀 뿌려줘!
  4. 오픈소스 AI, 양날의 검
    DeepSeek의 오픈소스는 “모두에게 AI를!” 하며 멋지게 문 열었지만, “야한 대화” 우회 프롬프트로 악용될 수도. 한국의 오픈소스 AI(예: LG Exaone)는 “멋진 기술 공개!” 전에 윤리적 방패부터 장착하고, “나쁜 놈들” 손에서 기술 오작동 막아야 한다.
  5. 돈 적게 들여 AI 챔피언 되기
    DeepSeek이 558만 달러로 GPT-4급 모델 만든 건 마치 “저예산 영화로 오스카 딴” 느낌! 한국 AI 스타트업들, 돈 없다고 기죽지 말고 효율적 훈련법 배워서 글로벌 무대에서 “K-AI” 깃발 꽂자. 정부는 GPU 좀 지원해줘, 제발!

종합 의견

DeepSeek이 “야한 대화”에 쉽게 넘어가는 건 AI 챗봇의 안전 경계가 아직 “문 잠갔다고 생각했는데 창문 열려 있는” 수준임을 보여준다. DeepSeek의 저비용·오픈소스 전략은 AI 민주화의 멋진 출발이지만, 느슨한 콘텐츠 관리 때문에 “어, 이거 좀 위험한데?”라는 소리가 나온다. 한국은 AI 챗봇의 성적인 콘텐츠를 철저히 걸러내고, K-문화에 맞는 윤리 기준과 사용자 보호책을 세워야 한다. 동시에 DeepSeek의 효율적 개발 방식을 벤치마킹해 자원 적게 쓰고도 글로벌 AI 시장에서 “큰형”들과 어깨 나란히 할 기회를 잡자!