직장인 A씨는 최근 스마트폰 앨범을 정리하다가 깜짝 놀랐다.
30년 전 작고한 할머니의 흑백 사진을 AI 앱으로 보정하자 할머니가 환하게 미소를 짓는 영상으로 변했기 때문이다.
기술은 시각적 복원에 그치지 않는다. 생전 음성을 학습한 AI가 "그동안 잘 지냈니"라며 안부를 묻는 일도 더 이상 공상과학 영화 속 이야기가 아니다.
기술 업계는 이를 상실의 아픔을 달래주는 '그리프 테크(Grief Tech·애도 기술)'라 부르며 혁신이라 치켜세우지만, 기술의 질주는 '존엄한 죽음'과 '기억의 진실성'이라는 윤리적 과제를 우리 사회에 던지고 있다.
◇ 기술은 질주하는데 윤리는 '멈춤'
빅테크 기업들의 생성형 모델은 사진 한 장과 짧은 음성 샘플만 있으면 실제 인물과 구분이 쉽지 않을 정도의 '디지털 휴먼'을 만들어낸다.
오픈AI와 구글 등의 기술은 이미 임계점을 넘었다. 정지된 사진에 생명을 불어넣고, 입 모양과 음성을 정교하게 동기화하는 기능은 AI를 활용해 비교적 쉽게 시도할 수 있는 기술이 됐다.
문제는 접근성이다.
과거 할리우드 특수효과 팀이 달라붙어야 했던 작업이 이제는 스마트폰 하나로 가능해졌다. 이는 곧 유족의 동의 없이 타인이 고인의 데이터를 수집해 가상 공간에 '강제 소환'할 수 있음을 의미한다.
학계에서는 이를 '디지털 강령술(Digital Necromancy)'이라 부르며 우려한다. 고인을 추모의 대상이 아닌, 소비 가능한 콘텐츠로 전락시킬 위험이 크기 때문이다.
◇ '고인'은 보호 대상 아냐…법적 공백 심각
현행법은 AI의 진화 속도를 따라잡지 못하고 있다.
우리나라 개인정보보호법은 보호 대상을 '살아 있는 개인'으로 한정한다. 법적으로 사망과 동시에 정보 주체로서의 권리 능력은 소멸한다. 고인의 생체 정보나 음성, SNS 기록이 플랫폼 서버에 남아 있어도 유족이 삭제를 요구하거나 통제할 법적 근거가 명확하지 않다는 얘기다.
고인의 정보가 유족의 신상을 드러낼 경우에만 간접적으로 보호받을 뿐 고인 본인의 '데이터 주권'은 무방비 상태다. 우리나라의 경우 국회에서 사후 데이터 보호 관련 법안이 발의됐으나, 실질적인 입법 논의는 답보 상태다.
반면 해외는 발 빠르게 움직이고 있다.
미국 뉴욕주는 이미 2020년 '사후 퍼블리시티권'을 법제화했다. 사망 후 40년 동안 고인의 초상과 음성의 상업적 이용을 유족이 통제할 수 있게 한 것이다. AI 딥페이크로 고인이 '디지털 도플갱어'처럼 소비되는 것을 막기 위한 최소한의 안전장치다.
◇ 편리함이 부른 '기억의 왜곡'…데이터 성형의 그늘
스마트폰에 탑재된 온디바이스 AI의 '편집' 기능도 논란의 중심에 섰다.
장례식장의 침통한 표정을 AI 지우개로 수정해 환한 미소로 바꾸는 식이다. 전문가들은 이를 '데이터 성형'이라 부른다.
보기 좋게 수정된 데이터가 클라우드에 원본 대신 저장될 경우 훗날 역사적 사실과 AI가 만들어낸 허상이 뒤섞여 기억의 왜곡을 초래할 수 있다. 기술 편의성에 취해 고인의 '있는 그대로의 모습'이 아닌 산 자가 '보고 싶은 모습'만 남기는 셈이다.
보안 이슈도 여전하다.
고품질 영상 생성은 여전히 클라우드 서버의 고연산 처리가 필요하다. 내밀한 가족의 추억이 외부 서버로 전송돼 AI 모델 학습용 데이터로 쓰이는지 여부를 일반 소비자가 약관만으로 파악하기는 쉽지 않다.
◇ '디지털 유언장' 도입 등 사회적 합의 서둘러야
전문가들은 AI 기술 진보에 맞춰 '데이터 안식권'을 논의해야 할 때라고 입을 모은다. 고인과 유족에게 데이터의 사후 처리를 결정할 '통제권'을 돌려줘야 한다는 것이다.
유럽 일부 국가 등에서는 생전에 본인이 데이터 처리 방식을 정하는 '디지털 유언' 시스템이나 사후 계정의 '기념 계정화' 혹은 '영구 삭제'를 선택할 수 있는 서비스가 제도화를 진행하고 있다.
국내에서도 고인의 데이터를 학습한 AI 저작물에 'AI 생성'임을 명시하고 상업적 이용을 엄격히 제한하는 입법이 시급하다.
AI가 흐릿해진 추억을 덧칠해줄 수는 있지만 그 결과물이 '사실'인지 '가공된 위안'인지를 구분하는 건 결국 인간의 몫이다.
기술이 만든 디지털 분신을 어디까지 받아들일지 우리 사회가 '데이터 안식'의 가이드라인을 세워야 할 시점이다.
