2026년 10월 6일(화) 아침 기준 · 소식 4개
오늘 소식 네 개는 AI를 어떻게 쓰느냐에 따라 무게가 크게 다르다. 그래서 소식 순서가 아니라 사람 순서로 나눴다. AI 대화창을 일기장이나 고민 창구로 쓰는 사람, AI로 보고서와 과제를 쓰는 사람, ChatGPT로 그림을 자주 만드는 사람, 그리고 ‘AI가 신소재를 찾았다’ 같은 제목에 눈이 가는 사람. 내게 해당하는 칸부터 읽어도 된다.
AI를 일기장이나 고민 창구로 쓰는 사람이라면
미국 플로리다 지역 방송 WINK 뉴스와 이를 정리한 톰스하드웨어 5일 보도에 따르면, 리 카운티에 사는 한 여성이 9월 26일 앤트로픽의 AI ‘클로드’와 나눈 대화에 보안관 사무소를 “쏴 버리겠다”는 글을 남겼다. 체포 보고서에는 이튿날 새 총을 구했다는 글도 적혀 있다. 클로드의 안전 장치가 이 대화를 걸러 사람 검토로 올렸고, 앤트로픽 검토팀이 경찰에 알렸다. 보안관실은 집에서 그를 별다른 충돌 없이 붙잡았고, 법원 기록에는 9월 30일 플로리다 법 836.10조(글이나 전자 수단으로 한 총격·테러 위협) 중범죄 혐의가 올라 있다. 보안관은 그가 AI를 “일기장처럼” 쓴다고 말했다고 WINK에 밝혔다. 톰스하드웨어 기준으로 앤트로픽은 이 사건에 대해 따로 입장을 내지 않았다.
한 번의 일이 아니다. 같은 보도는 8월 이후 경찰까지 간 비슷한 챗봇 대화가 적어도 세 번째라고 짚었다. 8월 11일 텍사스 샌안토니오에서는 초등학교 총격을 묻는 대화가 FBI를 거쳐 경찰에 전달돼 22세 남성이 체포됐고, 8월 14일에는 앤트로픽 대표를 위협한 대화가 신고됐지만 기소로 이어지지는 않았다. 앤트로픽이 9월 10일부터 시행한 개인정보 처리방침에는 사람이나 재산에 대한 심각한 해를 막는 데 필요하다고 선의로 판단하면 수사기관에 알릴 수 있다고 적혀 있다. 반대로 알리지 않아서 소송을 당하는 일도 있다. 캐나다 브리티시컬럼비아주는 지난달 오픈AI가 총격범의 계정을 미리 파악하고도 경찰에 알리지 않았다며 소송을 냈다. AI 회사는 사생활을 지키라는 요구와 위험을 알리라는 요구를 동시에 받고 있다.
그래서 할 일은 단순하다. AI 대화창은 잠긴 일기장이 아니라고 생각하고 쓴다. 회사는 위험한 표현을 자동으로 거르고, 심하면 사람이 직접 읽는다. 화가 나서 쓰는 말이라도 누군가를 해치겠다는 ‘계획’처럼 적지 않는다. 마음이 정말 무너진 날이라면 AI보다 사람에게 먼저 말하는 편이 낫다. 우리나라에서는 자살예방 상담전화 109가 24시간 열려 있다. 쓰는 AI 서비스의 개인정보 처리방침에서 ‘수사기관’이나 ‘법 집행’이라는 낱말을 한 번 찾아 읽어 두면, 내 글이 어떤 경우에 밖으로 나가는지 알 수 있다.
AI로 보고서·과제·글을 쓰는 사람이라면
오픈AI는 5일 ‘유럽연합(EU) 글 출처 표시 규칙에 대한 접근법’을 공개했다. 유나이트AI 등 보도로 정리하면 이렇다. EU AI법 50조는 생성형 AI가 만든 글을 기계가 알아볼 수 있게 표시하라고 요구하고, 이 투명성 의무는 올해 8월 2일부터 적용됐다. 오픈AI는 앞으로 몇 주 안에 EU 사용자가 ChatGPT와 코딩 도구 코덱스에서 받는 글에 모든 요금제에 걸쳐 눈에 보이지 않는 워터마크를 넣는다. 기술 이름은 ‘텍스트그레인(textGrain)’으로, AI가 고르는 낱말에 통계적인 신호를 심는 방식이다. 개발자용 API에서는 전 세계 어디서나 켤 수 있지만 기본값은 꺼짐이다. 워터마크를 찾아내는 판별기는 당분간 승인받은 연구자와 전문 기관만 신청할 수 있다.
숫자도 함께 나왔다. 잘못 판정하는 비율을 1%로 맞췄을 때, 판별기는 200토큰(짧은 문단 한두 개) 길이 글에서 약 80%, 400토큰 글에서 약 95%의 워터마크를 찾아냈다. 다만 수학처럼 낱말을 고를 여지가 좁은 글에서는 크게 떨어진다. 낱말을 10% 바꾸면 찾아내는 비율이 66%로, 25% 바꾸면 17%로 내려간다. 오픈AI 스스로도 워터마크가 없다고 해서 사람이 썼다는 증거는 아니라고 밝혔다.
이번 발표는 EU 사용자를 대상으로 하고, 한국 사용자에게 언제 적용될지는 발표에 나오지 않는다. 그래도 방향은 분명하다. AI가 쓴 글에 ‘꼬리표’를 붙이는 일이 법으로 시작됐다. 학생이나 직장인이라면 AI 사용을 숨기는 쪽보다 “초안은 AI로 쓰고 내가 고쳤다”고 밝히는 쪽이 앞으로 더 안전하다. 반대로 남의 글을 ‘AI가 썼다’고 몰아세울 때 탐지 결과 하나만 근거로 삼지 않는다. 숫자가 보여 주듯 짧은 글과 고쳐 쓴 글에서는 탐지가 자주 빗나간다.
ChatGPT로 그림을 자주 만드는 사람이라면
같은 5일 오픈AI는 ChatGPT에 새 ‘시각 광고’ 형식을 내놨다. 상품을 쓰는 장면이나 그 상품으로 할 수 있는 경험을 이미지로 보여 주는 광고다. 처음에는 사용자가 ChatGPT로 그림을 만드는 동안 보여 주는 방식으로, 이달 하순 미국에서 일부 광고주와 시험한다. 광고에는 광고라는 표시가 붙고, 사용자가 만드는 그림과는 따로 놓인다고 회사는 밝혔다. 광고가 ChatGPT의 답에 영향을 주지 않는다는 기존 원칙도 다시 적었다. 광고 효과를 재는 협력사도 늘렸고, 광고가 어떤 내용 옆에 붙는지 점검하는 시범은 개인 대화에 접근하지 않는 시험 환경에서 한다고 했다. 오픈AI는 ChatGPT가 매주 12억 명에게 닿는다고 밝혔다.
그림이 만들어지길 기다리는 몇 초가 광고 자리가 된다는 뜻이다. 검색창이 광고판이 됐듯 AI 대화창도 같은 길에 들어섰다. 한국에서 언제 이 광고를 보게 될지는 발표에 없다. 지금 들여 둘 습관은 하나다. AI가 상품을 보여 주면 그것이 ‘답’인지 ‘광고’ 표시가 붙은 것인지 먼저 본다. 광고를 눌러 쇼핑몰로 넘어간 뒤의 구매는 광고 성과로 집계된다는 점도 알아 두면 좋다.
‘AI가 신소재 찾았다’ 제목에 마음이 설레는 사람이라면
AI 평가 회사 밸스AI(Vals AI)는 미국 시간 4일 글에서, 앤트로픽의 클로드 오퍼스 5.5 에이전트에게 계산 연구를 맡겨 상온에서 자성을 띠는 반도체 후보 두 개를 찾았다고 밝혔다. 이 글은 5일 개발자 커뮤니티 해커뉴스에서 화제가 됐다. 겉으로는 자석 성질이 0이지만 전자의 스핀(회전 방향)을 갈라 쓸 수 있는 재료로, 스핀을 이용하는 차세대 메모리에 쓰일 수 있는 계열이다.
하나는 AI가 새로 설계한 YBaMnFeO₅로, 아직 누구도 만든 적이 없다. 계산상 자기 질서가 약 490K(섭씨 약 217도)까지 이어진다고 추정됐다. 다른 하나는 1999년에 이미 만들어진 프러시안 블루 계열 KV[Cr(CN)₆]로, 당시 시료는 376K(섭씨 약 103도)까지 자기 질서를 유지했다. 그런데 두 후보 모두 실험이 아니라 계산 결과다. 빠른 근사 계산과 더 느리고 정확한 계산 두 단계로 확인했지만, 핵심 성질은 아직 실제로 재 보지 않았다. 첫째 물질은 실제로 합성하면 구조가 무너질 수 있고, 둘째 물질은 옛 시료에 물이 섞여 있어 계산 방법마다 결과가 엇갈린다고 글이 스스로 적었다.
AI가 과학의 ‘후보 찾기’ 단계를 빠르게 하고 있다는 것은 사실이다. 하지만 후보와 발견은 다르다. ‘AI가 발견’이라는 기사를 보면 실험으로 확인한 것인지 계산으로 예측한 것인지부터 찾아본다. 이번 소식은 뒤쪽이다. 기사에서 ‘후보’라는 낱말이 빠져 있다면, 특히 관련 회사 이야기가 함께 붙어 있다면 한 번 더 의심한다.
이 글은 10월 6일 아침(한국 시간)까지 공개된 보도와 공개 문서를 바탕으로 썼다. 플로리다 사건은 체포 보고서와 법원 기록을 옮긴 보도이며, 사실관계는 재판에서 가려진다. 오픈AI 발표 두 건은 원문 페이지 접속이 막혀 유나이트AI 등의 보도가 옮긴 내용으로 확인했다. 밸스AI의 후보 물질은 실험으로 확인되지 않은 계산 예측이다.
Leave a Reply