다양한 AI를 효율적으로 활용…AWS, '아마존 베드록' 소개

기술 발전에 따른 생성형 AI의 활용은 이제 필수가 될 전망이다. AWS는 자사의 생성형 AI 서비스를 공개하고, LG유플러스·당근마켓·카카오스타일 등 국내 기업들의 실제 사용 사례를 발표했다. 세션에 나선 개발자들은 AWS의 생성형 AI 서비스 도입이 앞으로는 업무 효율성을 높이기 위한 필수 요소가 될 것이라고 입을 모아 말했다.

13일 서울 강남 센터필드EAST 건물에서 아마존웹서비스(이하 AWS)가 'AWS 2024 생성형 AI 미디어 브리핑'을 가졌다. 자사의 생성형 AI 서비스에 대해 김선수 AWS코리아 AI/ML 사업개발 수석 스페셜리스트가 '아마존 베드록(Amazon bedrock)'을 소개했다.
아마존 베드록은 단일 API를 제공해 생성형 AI 애플리케이션 구축을 지원하는 완전 관리형 서비스다. 최근 업데이트를 통해 △생성형 AI 모델 최적화 △데이터 연결 성능 강화 △책임감 있는 AI 기능 강화 △실행 능력 강화 등을 거쳤다.

김선수 수석은 "많은 빅테크들이 새로운 LLM(거대언어모델)을 지속적으로 선보이고 있다. 그 외에도 생성형 AI 활용을 위한 보조 툴과 서비스들도 잇따라 출시되는 가운데 이를 필요로 하는 기업들도 자사에서 원하는 기능의 서비스를 요청하고 있다"며 "AI 기술에 대한 다양한 니즈가 쇄도하면서 AI를 개발하는 회사와 이를 각 회사에 맞게 튜닝하는 회사, 최종적으로 서비스를 공급받는 기업까지 광범위한 AI 기술이 요구되고 있는 상황이다"라고 서두를 뗐다.
이어 "많은 기업들이 생성형 AI 사용에 있어 단일 모델만을 고집하지 않는다. 조사 결과 97%의 기업이 목적에 따라 다양한 모델을 복합적으로 사용하고 있다고 응답한 것으로 확인됐다"면서 "경쟁력 있는 모델을 같이 사용할 수 있는 형태로 제공하는 것이 아마존 베드록 서비스의 핵심이다. AWS뿐만 아니라 앤트로픽, 메타, 미스트라 AI 모델 등 다양한 모델을 적용해 쉽게 사용할 수 있도록 서비스를 제공 중"이라고 설명했다.


아마존 베드록이 가진 기능 중 돋보이는 것은 단연 새롭게 업데이트된 '가드레일' 기능이다. 모델 응답 중 기업 데이터에 기반하지 않거나 사용자 쿼리와 관련 없는 내용을 제한한다. 환각 현상 탐지를 위해서 마련한 보호 조치다. 모델이 내놓은 결과가 참조자료와 관련이 있는지, 질의 내용과 관련이 있는지 등을 크로스 체킹 해 답변의 신뢰성을 더욱 높일 수 있다.

특히 비개발자라도 프롬프트만 입력하면 원하는 기능의 애플리케이션을 만들어낼 수 있는 'AWS앱스튜디오'가 이목을 끌었다. 아직까지는 프리뷰 단계에 불과하나, 단 몇 분 만에 애플리케이션을 생성할 수 있어 기존의 다른 로우 코드 솔루션 대비 최대 80% 비용을 절감할 수 있을 것이라는 AWS 측의 설명이다.

이후 진행된 2부에서는 아마존 베드록 실 기업 적용 사례와 생성형 AI에 대한 앞으로의 전망 발표가 이뤄졌다. 2부에서는 생성형 AI 업무 활용 전망과 실제 사용자들이 경험한 AWS 생성형 AI 서비스 사례 소개가 이어졌다.

윤석찬 AWS 수석 테크 에반젤리스트는 "생성형 AI의 등장으로 소프트웨어 개발 양상이 달라졌다. 기존에 배웠던 지식을 활용한 개발이 아닌 AI 활용을 통한 개발이 활발해지고 있다"며 "생성형 AI를 개발 업무에 활용한 결과 85.5%의 개발자들이 '생산성이 올라갔다'고 응답했다"고 말했다.

당근과 카카오스타일 관계자는 발표 세션에서 AWS 베드록을 통해 능률을 높일 수 있다고 설명했다. 카카오스타일의 경우 커머스 업종 특성상 소비자가 구매한 제품에 대한 리뷰와 사진을 남기는데 해당 내용이 자사 규정에 위반되는 내용은 아닌지 기존에는 전부 인력을 통해 검사해왔다. 그러나 베드록을 통해 욕설 등 내부 규정 위반 게시물을 간편하고 빠르게 필터링할 수 있어 인력 리소스를 80% 가까이 줄일 수 있다고 설명했다.

마지막으로 이들은 앞으로 생성형 AI가 소프트웨어 개발자와 데이터 엔지니어에게 미칠 영향에 대해 △소프트웨어 개발 스펙 변화 △생산성 향상 △노력 및 비용 절감 등을 꼽으며 앞으로 개인이나 기업이 집중할 부분은 사내 노하우나 사내 지식들을 데이터화하고 모델에 적용하는 것을 포함해, 양질의 데이터 수집이 노하우가 될 것이라는 견해를 제시했다.


편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com