"스트레스 지수가 위험 수준입니다."
최근 한 대학 캠퍼스에서 시범 운영된 인공지능(AI) 감정 분석 기기를 착용한 대학생 A씨는 화면에 뜬 문구를 보고 잠시 당황했다.
아무 말 없이 앉아만 있었는데 이 기계가 뇌파를 분석해 자신의 감정 상태를 짚어냈기 때문이다.
AI 기술의 놀라운 진보를 실감하는 순간이기는 하지만 그렇다면 정말 AI가 인간의 속마음까지 읽어낼 수 있는 것일까.
◇ 감정을 읽는 기술, 어디까지 왔나
뇌파(EEG·Electroencephalogram)는 뇌세포의 전기 신호를 감지해 뇌 활동 상태를 파악하는 기술이다.
본래 뇌전증이나 수면장애 같은 질환 진단에 주로 쓰였지만, 최근에는 AI와 결합해 감정 분석 분야로까지 활용 범위가 넓어졌다.
AI는 특정 감정 상태에서 뇌파가 어떻게 달라지는지 수천 건의 데이터를 학습한다. 기쁨, 분노, 불안, 무감정 등 다양한 감정을 구분해내는 방식이다.
실제로 중국 상하이교통대 연구진은 뇌파와 표정, 심박수 등을 함께 분석한 모델로 90%가 넘는 감정 분류 정확도를 기록하기도 했다.
하지만 이는 통제된 실험 환경에서나 가능한 수치다.
현실에서는 전자기 간섭, 움직임, 개인별 뇌 반응 차이 등 다양한 변수로 인해 정확도가 크게 떨어지기 때문이다.
전문가들은 "AI가 감정을 '직접 읽는다'기보다는 뇌파의 패턴과 감정 상태 간의 통계적 상관관계를 해석하는 것에 가깝다"고 설명한다.
뇌 활동의 '흔적'을 통해 감정을 추론하는 것이지 마음속 깊은 곳까지 꿰뚫어 보는 것은 아니라는 의미다.
◇ 교육부터 마케팅까지…곳곳에 스며드는 감정 AI
AI를 통한 감정 분석 기술은 이미 다양한 산업 현장에서 시범 적용되고 있다.
교육 분야에서는 일부 에듀테크 기업이 온라인 수업 중 학생의 집중도 변화를 실시간으로 측정해 교사에게 피드백을 제공한다. 감정 인식 결과에 따라 맞춤형 설명을 제공하거나 수업 방식을 조정한다고 한다.
의료 분야에서는 우울증, 불안장애 등 정서 질환의 조기 진단과 관리에 감정 AI가 활용된다. 중증 환자의 감정 상태를 모니터링해 돌봄에 반영하거나 재활 치료에 동기 부여 수단으로 사용되기도 한다.
광고업계 또한 이 기술에 지대한 관심을 보이고 있다.
일부 기업은 가상현실(VR) 헤드셋에 뇌파 센서를 부착해 소비자가 광고를 볼 때 어떤 감정을 느끼는지 실시간으로 측정하는 실험을 진행 중이다.
기술 발전이 놀랍기만 한 것은 아니다.
우려의 목소리도 만만치 않다. 뇌파는 단순한 생체 신호가 아니기 때문이다. 감정 상태, 집중력, 무의식적 반응 등 민감한 정보가 담겨 있어 개인정보 중에서도 가장 높은 민감도를 지니고 있다.
미국 일부 주에서는 이미 관련 규제를 마련했다. 캘리포니아, 콜로라도주는 뇌파 데이터를 소비자 개인정보에 포함하고 수집·이용·삭제에 대한 권한을 보장하는 법을 통과시켰다.
유럽연합(EU)의 'AI 법'은 지난해 5월 발효됐고 감정 추론 시스템은 '고위험 AI'로 분류돼 직장이나 학교에서는 의료나 안전상의 목적이 아니면 원칙적으로 사용이 금지된다.
하지만 국내에서는 아직 법적 기준이 모호한 실정이다.
개인정보 보호법상 뇌파 데이터를 명시적으로 다루는 조항이 없으며 관련 윤리 가이드라인 또한 제도화 초기 단계에 머물러 있다. 기술은 앞서가는데 사회적 논의는 더디다는 지적이 나오는 이유다.
전문가들은 앞으로 '뉴로프라이버시(neuro-privacy)', '인지자유권(cognitive liberty)', '신경권(neurorights)' 같은 개념이 제도화될 필요가 있다고 주장한다. 사용자의 동의 없는 뇌파 정보 수집은 명백한 인권 침해이기 때문이다.
◇ 감정 인식 AI 기술 어떻게 받아들일 것인가
현재 단계에서 볼 때 AI가 사람의 '속마음'까지 읽는 것은 아니다. 뇌파 분석을 통해 감정 상태를 추정하는 수준에 머물러 있을 뿐이다.
그러나 감정 상태가 행동 패턴과 연결되면 사용자의 판단이나 선택에 영향을 줄 수도 있다는 점은 간과할 수 없다.
더 큰 문제는 이러한 기술이 어떤 의도로 누구에 의해, 어떤 방식으로 사용되느냐에 달려 있다.
감정 데이터를 활용한 교육, 치료, 서비스가 인간에게 진정 도움이 되려면 기술만큼 중요한 것이 바로 윤리적 합의와 사회적 통제다.
지금 우리에게 필요한 것은 기술의 속도에 발맞춘 제도적 논의다.
마음을 읽는 기술을 개발하는 것보다 그 마음을 안전하게 지킬 수 있는 장치를 먼저 마련하는 게 시급해 보인다.
