jjcjug출처: 매경이코노미
링크: AI가 촉발한 ‘데이터 근친교배’…‘가짜 트래픽’ 투성, ‘슬롭’만 넘친다 [AI 딥다이브]
최근 기술이 발달하면서 인터넷상에서 AI가 만든 콘텐츠나 AI가 형성하는 조회수가 기하급수적으로 증가하고 있다. 이른 바 AI로 인해 인터넷이 오염된다는 죽은 인터넷 이론이 현실화되고 있는 것이다. 죽은 인터넷 이론이란 인터넷상에서 인간의 소통보다 AI가 만든 조회수나 컨텐츠의 수가 더 많아져 인터넷상에서 인간의 소통이 결국 없어진다는 가설이다. 하지만 이런 죽은 인터넷 이론은 빠르게 현실화되고 있다. 먼저 AI가 만든 가짜 조회수의 비율이 2024년 전체 웹 조회수 약 50%를 차지하면서 10년만에 인간의 조회수를 뛰어 넘었다. 또한 인터넷상에서의 콘텐츠 수도 오직 인간이 만든 컨텐츠는 약 25%밖에 되지 않았다. 이렇게 인터넷상에서 AI가 만든 콘텐츠에 다른 AI들이 와서 수만개의 조회수, 좋아요, 댓글을 기록하고 있다. 이렇나 현상인 유튜브, 숏츠, 인스타그램, 심지어 쇼핑 사이트에 달린 구매 후기들까지 전부 AI가 댓글과 좋아요를 누르고 있고, 이 수는 계속해서 늘어가고 있다. 하지만 한편에서는 이러한 방법을 사용하여 게시물을 알고리즘에 띄우기 위한 마케팅 전략으로도 사용하고 있다. 하지만 이런식으로 무분별하게 AI가 인터넷에서 사용된다면, 모델붕괴 현상이 나타날 수 있다. 모델붕괴 현상이란 AI가 AI의 학습하는 것이 반복되면서 정보의 다양성은 떨어지고 콘텐츠도 점점 더 단순해지는 것을 의미한다. AI는 튀는 답변보다는 무난한 답변을 더 선호하기 때문에 AI가 인간이 만든 콘텐츠를 보고 학습하면 인간이 만든 콘텐츠보다는 더 무난한 콘텐츠가 나올 것이고, 그 콘텐츠를 또 다른 AI가 보고 학습한다면 더 무난한 콘텐츠와 답변이 나오는 악순환이 반복되기 때문에 결국 인터넷상에서는 뻔하고 단순한 콘텐츠만 남아있을 것이다. 이러한 모델붕괴를 막을려면 인간이 만든 품질 좋은 콘텐츠들이 많이 있어야 하는데 여러 전문가들에 따르면 AI가 학습할 인간이 만든 콘텐츠가 부족하다고 말하였고, 빠르다면 2026년에는 AI가 학습할 데이터가 더 이상 인터넷상에서 남아있지 않을 것이라고 했다. 이러한 죽은 인터넷이론, 모델붕괴를 막기 위해서는 많은 해결책들이 제시되고 있는데, 그 중에서도 가장 실현 가능성이 높은 것이 바로 AI가 만든 콘텐츠를 구분할 수 있도록 표시를 하고, AI가 만든 콘텐츠의 계속되는 생산 차단해야 된다는 방안이다. 또한 AI는 만들지 못하고 인간만이 만들 수 있는 고차원적인 콘텐츠의 수를 늘리자는 해결책도 제시되고 있다.
내 생각: 이런식으로 AI가 빠르게 발전한다면 정말 나중에는 AI가 인간을 위협하는 영화 터미네이터의 장면이 실제로 일어날 것 같아 AI 슬롭과 같은 현상부터 관심을 가지고 잘 대처 해야겠다는 생각이 들었다.