생성형 AI, 오류·표절 등 다양한 문제 대두

최근 몇 년 동안, 생성형 AI(Generative AI)는 기술 혁신과 창의성을 높이는 분야로 주목받아 왔다. 그러나 시간이 지나면서 실제 현장에서는 이러한 기술이 현실과 기대 사이에 큰 괴리가 있다는 호소를 하기 시작했다.

이 괴리는 현실과 기대 사이의 격차를 의미하는 '환멸의 골짜기'로 불리며, AI 산업 전반에 영향을 미칠 수 있다는 경고로 이어지고 있다고 27일(현지 시간) 악시오스가 보도했다.

생성형 AI는 새로운 콘텐츠와 아이디어를 만드는 AI의 한 종류로 텍스트·이미지·음악 등 다양한 형태의 콘텐츠를 생성한다. 특정한 데이터를 기반으로 새로운 콘텐츠를 생성하기 위해 설계되며, 주로 대화의 자연스러움을 강화하고 빠른 콘텐츠 생성에 사용되어 시간의 단축과 효율적인 작업 성과 도출을 도와 큰 관심과 기대를 받았다.

생성형 AI에 대한 시장조사기관 포춘 비즈니스인사이트는 2030년까지 생성형 AI 시장 규모가 약 902조원에 이를 것으로 예상했다. 하지만 실제로는 아직 초기 단계로 기술적 완성도가 낮고, 오류 발생 가능성이 높으며, 안정적 작동이 어려워 실제 사업에 적용하는 데 불편과 불만이 누적되고 있다는 지적이 나오면서 이런 시장의 성장에 대한 회의마저 제기되는 실정이다.

생성형 AI 기술은 지난 2년 동안 챗봇 등을 통해 과도하게 홍보된 측면이 있다. 실제로 사용하면서 기술적 한계, 오류, 지식재산권 침해 문제 등으로 불신이 누적돼 초기 투자 열기와 달리, 많은 기업들이 생성형 AI가 예상했던 만큼 효과적이지 않다는 것을 깨닫고 있으며, 실제 사업에 적용하는 데 어려움을 겪고 있다.

데이터를 무단 사용해 저작권 문제가 발생하고, 학습 데이터에 내재된 편향성이 나타나거나, 잘못된 답변 사례가 빈발하는 등 현장에서는 기술적 한계와 지식재산권 침해 문제가 제기되고 있다. 이로 인해 사용에 대한 불신이나 사회적 갈등을 야기할 수 있는 윤리적 문제도 계속되고 있다. 특히 인종·성차별적 콘텐츠를 만들거나, 가짜 뉴스 혹은 딥페이크 영상 제작에도 사용될 수 있었다. 이는 법적 문제를 야기할 수도 있다.

마이크로소프트가 제공하는 빙의 코파일럿의 경우도 통계나 최신 정보 소개에는 한계를 보이고, 구글 제미나이도 잘못된 통계를 정확한 정보인 것처럼 소개하는 경우가 비일비재하다.

편향된 데이터를 학습해 정확하지 않은 결과를 만들어 내면서, 이런 불신이 자칫하면 투자 위축과 기술 발전 둔화를 가져올 수 있다는 지적도 나온다.
1년 전만 해도 대부분 이사회가 최고경영자(CEO)에게 생성형 AI를 최대한 빨리 도입할 방법을 찾으라고 압력을 가했을 정도의 초기 투자 열기와 달리, 이제는 기업들이 생성형 AI가 예상했던 만큼 효과적이지 않다는 것을 깨닫고, 투자에 신중한 태도를 보이고 있다.

이에, 생성형 AI의 물결을 이끈 일부 선도 스타트업들이 중도에 무너지고 있으며, 지난주에는 주요 선도 스타트업인 인플렉션 AI의 경영진과 연구원들이 퇴사했다. 다른 스타트업들도 자금난으로 연구원 이직이 늘고 있다.

다양한 실험적 도전을 할 수 있는 스타트업이 사라지고 거대기업으로 이들 연구원이 흡수되면서, 혁신이 사라지고 지나치게 이익을 앞세운 상업적인 목적의 기술 개발만 이뤄질 수 있다는 지적도 나온다.


전문가들은 이런 현상들이 생성형 AI의 종말을 의미하는 것은 아니라고 말한다. 모든 주요 신기술, 특히 세상을 변화시키는 기술들은 이와 같은 단계를 거쳤다고 말한다.

그들은 장기적인 관점에서 기술 발전의 기대감을 보인다. 생성형 AI는 발전 가능성이 높은 기술이며, 현실적인 문제점을 해결하여 기술 완성도를 제고하면서, 지식재산권 침해 및 윤리적 문제를 해결하면 새로운 여정을 시작할 수 있다고 말한다.

이를 위해 가장 중요한 것이 기술적 완성도 향상이라고 말한다. 생성형 AI 기술 완성도를 높이기 위해 연구와 개발을 지속해 안정성과 정확성을 개선하고, 효과적 콘텐츠 생성을 위한 기술적 제약을 극복해야 한다는 것이다.

또한, 지식재산권과 윤리적 문제 대응도 강화할 것을 주문한다. 저작권과 지식재산권 침해를 방지하기 위해 적절한 데이터 사용과 법적 조치를 통해 편향성과 윤리적 문제를 개선해야 한다고 강조한다.

다행스러운 것은 마이크로소프트나 구글, 오픈AI도 이런 문제를 잘 알고 투자를 아끼지 않고 있다는 점이다.

불신과 불만이 계속 나타나지만, 생성형 AI의 학습속도가 매 순간 더 빨라지고 있으며, 개선도 이뤄지고 있다는 점도 다행이다.

방대한 지식체계에 대한 학습과 이를 생성하려는 AI의 기능 개선은 시간 싸움이다. 사용자의 구체적 질문과 답변, 반복되는 생성 과정을 통해 이는 개선의 과정을 밟을 것이다.

다만, 안정적 단계로 진입하는 데는 얼마나 더 많은 시간이 소요될지 알 수 없기 때문에, 사용자는 항상 생성형 AI가 제공하는 정보에 오류가 있을 수 있음을 주지하고 재확인하는 절차를 밟는 것이 오류를 최소화하는 데 도움이 될 수 있다.


박정한 글로벌이코노믹 기자 park@g-enews.com