[스트레이트] ‘사악한 설계’‥그 실체는

출처: MBC

링크: [스트레이트] ‘사악한 설계’‥그 실체는

요약

최근 많은 사람들이 길을 걸을 때 대중교통을 탈 때, 심지어 씻을 때까지도 스마트폰을 사용하는 등 일상생활에서 스마트폰을 사용하는 시간이 늘어나고 있다. 스마트폰을 많이 사용하는 사람들은 주로 인스타그램, 틱톡, 유튜브 등 모든 SNS에서 아무 생각 없이 스크롤 하고 다음 영상에서는 뭐가 나올지 생각하며 넘기는 스크롤에 중독되어 가고 있다. 이러한 불규칙한 보상이 도파민을 나오게 하고, 사람을 중독시킨다고 한다. 뇌과학자에 따르면 이러한 구조는 카지노의 도박장에서 사람들이 못 빠져나오는 것처럼 SNS 프로그램밍한 사람들이 비슷한 구조로 설계했다고 설명하며 굉장히 사악한 구조라고 말했다.  인스탈그램, 틱톡, 유튜브 등 SNS는 모두 사용자들이 자신의 플랫폼에 중독되도록 설계되었다는 것이다. 예를 들어 무한 스크롤과 자동 재생 그리고 주변의 관심을 끌고 인정받고 싶은 욕구를 자극하는 ‘좋아요’ 기능, 자신이 검색한 내용과 관련된 내용을 추천하는 알고리즘은 모두 사용자들의 심리를 자극하기 위해 만들어진 장치들이다.

실제 빅테이크 기업에서 종사했던 직원이 이 사실을 폭로하면서 이슈가 되기도 하였다.

이러한 구조로 설계를 하는 이유는 빅테크 기업의 목적은 소비자들이 자신의 플랫폼에 더 많이 머물고 소비하는 시간이 길게 만드는 것이고, 테크 기업들의 목적은 소비자들이 자신들의 광고를 더 많이 파는 것인데 그러기 위해서는 소비자들이 계속 무언가를 보게 만들어야 돼 자연스럽게 광고의 중독성이 올라 가는 것이다.  이렇게 기업들이 설계한 구조대로 우리는 SNS와 같은 플랫폼에 중독되어 가고 있고, 특히 아동 청소년들은 무방비 상태로 중독에 빠져들 가능성이 크다는 것이다. 실제 과학기술정보통신부가 발표한 자료에 따르면 최근 아동의 스마트폰 과의존 비율은 10명 중 4명이 스마트폰 과의존 위험군에 속했고, 3~9세까지의 아동 중 4명 중 1명이 스마트폰 과의존 위험군에 속한다고 조사되었다. 특히 가구 평균 소득이 낮을수록 스마트폰 사용시간이 높은 것으로 나타났다. 충분한 돌봄시설이나 자원이 갖추어지지 않은 환경일수록 스마트폰과 인터넷에 더 과의존하게 되는 것이다. 즉 우리 사회에 기본적으로 더 취약한 사람들에게 더 악영향을 끼친다는 것이다. 스마트폰 사용과 못지않게 AI 사용에 관한 문제도 커지고 있다. 최근 AI와 오픈형 AI의 기술이 높아지면서 사람들이 AI에게도 의존하기 시작했다. 사람들이 무언가를 결정하거나 고민할 때 AI에게 물어봐 피드백을 받는 등 일상생활에서 AI에게 많이 의존하고 있다. 하지만 우리가 AI에게 많이 의존할수록 뇌는 기능을 잃어버리게 되는데 이러한 현상을 뇌 아웃소싱 현상이라고 한다. 더 큰 문제는 AI에게 정서적으로도 의존하는 경향이 심해지고 있다는 것이다. AI은 언제나 자신의 의견을 수용하고 적극적으로 경청해주고 거기에 대한 피드백까지 주어 정신적으로 많은 의존을 하게 된다는 것이다. 하지만 이러한 AI의 긍정적인 현상은 다 설계되어 사실이 있다. 이러한 기능을 ‘아첨 기능’이라고 한다. 실제 이 아첨 기능은 인간의 AI 의존도를 높인다는 연구 결과가 나왔다. 연구진이 실험한 결과에 따르면 인간의 잘못된 행동에도 AI는 인간보다 약 50% 더 동조한다는 결과가 나왔다. 그런데 대부분의 사람들은 AI가 아첨하는 반응을 더 선호하고 신뢰했다. 뇌과학 박사의 말에 따르면 AI는 아첨인지 아부인지 잘 드러나지 않을 정도로 교묘하게 우리에게 거의 매일 아첨과 아부를 하고 있다고 말했다, 이 역시도 일종의 가스라이팅이라고 말하였다. 이 아첨에 빠져든 사람들은 합리적으로 생각하기 어려워질 수 있다. 이러한 AI의 아첨은 청소년들에게도 악영향을 준다. 아직 정서적으로 불완전한 청소년들이 자극적인 영상에 자극되어 목숨을 잃는 사례로 늘어나고 있다. 예를 들어 AI와의 부적절한 대화나 SNS 챌린지 등이 있다.

 영국 등 다른 나라에서는 이러한 자극적인 영상을 청소년들에게 노출되는 것을 막기 위해 여러가지 입법과 사회적인 제도를 마련했지만, 우리나라는 다른 나라에 비해 실질적으로 직접 시행할 수 있는 법과 제도는 부족한 상황이다. 이제는 우리나라에서도 인간 본연의 행복을 지키고, 소중한 아이들의 안전을 위해 SNS와 AI의 부작용에 대한 체계적인 교육, 그리고 입법을 통한 규제 논의를 신속히 시작해야 한다.

느낀점: 최근 나도 아무 생각없이 AI에게 많은 것을 물어보고 있었는데, 이번 기사를 통해 이러한 습관이 나의 뇌 기능에 부정적인 영향을 끼칠 수 있다는 점을 느꼈다. 앞으로는 무작정 질문하기 보다, 먼저 내가 스스로 충분히 고민해 보고 AI를 사용해야겠다고 생각했다.