“생성형AI 도입 기업 중 1가지 모델만 사용하는 기업은 3%에 불과” AWS, 기업 AI 수요 대응 위해 ‘Amazon Bedrock’ 신규 기능·서비스 발표 ‘아마존웹서비스(Amazon Web Sercices, AWS)’가 강남구 센터필드 이스트빌딩에 위치한 AWS코리아 사옥에서 13일 미디어브리핑을 진행했다. 이번 브리핑은 지난 7월 미국 뉴욕에서 개최된 ‘AWS Summit New York 2024’의 주요 발표내용을 중심으로, AWS의 생성형 AI(인공지능) 서비스의 신규 기능과 활용 사례를 소개하기 위해 마련됐다. 브리핑에서 AWS코리아의 AI/ML 사업개발 김선수 수석 스폐셜리스트는 업무활용 및 비즈니스적인 측면에서 생성형 AI 활용 동향을 살폈다. 김선수 수석은 “기업들은 생성형 AI 모델을 만들기도 하고, 그 모델을 튜닝하거나 애플리케이션의 형태로 활용하는 등 다채로운 형태로 시장에 AI 서비스를 제공하고 있다”라며 “그만큼 기업들의 요구도 다양하다”라고 말했다. 그는 “AWS는 신규 생성형 AI 기능을 신속하게 선보이고자, 지난 18개월 동안 주요 제공업체보다 두 배 이상 많이 머신러닝 및 생성형 AI 기능을 출시했다”라며 “광범위한 AI 기능을 ▲FM(기초모델) 훈련 및 추론을 위한 인프라 ▲LLM(거대언어모델)과 FM을 사용해 구축 가능한 도구 ▲LLM 및 FM을 활용하는 애플리케이션, 3가지로 나눠 공급하고 있다”라고 설명했다. 그러면서, “‘아마존 베드락(Amazon Bedrock)’은 ‘도구’에 해당하는 서비스로, 단일 API에서 주요 AI모델을 쉽게 사용할 수 있게 하는 데 초점을 맞추고 있다”라며 “‘검색 증강 생성(RAG)’ 기법 활용과 에이전트 기능, 모델 커스터마이징도 가능하다”라고 덧붙였다. 김 수석은 7월 AWS Summit New York에서 발표된 베드락의 신규 기능을 공유했다. “생성형 AI 모델을 도입한 기업 중 1가지 모델만 활용하고 있는 기업은 3%밖에 안 된다”라고 말한 그는, “대부분의 기업은 수요에 따라 파라미터가 가벼운 모델, 이미지를 이해하고 반응하는 멀티모달 모델 등 여러 생성형 AI를 동시에 사용하고 있다”라고 전했다. 이어, “베드락은 AI 모델이 새롭게 출시되면 신속하게 업로드 하고 있다”라며 “이번에는 시장의 관심이 많은 Anthropic의 ‘Claude 3’ Haiku 모델을 파인튜닝(미세조정)해서, 현재 프리뷰 형태로 살펴볼 수 있다”라고 언급했다. 또한 “‘책임감 있는 AI 사용’의 구현을 돕는 ‘가드레일(Guardrails)’ 기능을 확대한 ‘Contextual Grounding Checks’를 발표했다”라며 “RAG 기법을 토대로 AI가 생성한 정보가 참조자료 또는 질문에 얼마나 근거했는지 평가해 점수를 매기고, 일정 점수에 도달하지 못한 정보는 답변으로 제공하지 않는 것”이라고 덧붙였다. 그는 “에이전트 기능의 강화를 위해 여러 상호 작용의 정보를 기억하고 학습할 수 있는 ‘메모리 보존’ 기능도 추가, 더욱 개인화되고 원활한 생성형 AI 경험을 체험할 수 있다”라며 “코드 생성 및 실행, 데이터 분석, 그래프 생성이 가능한 코드 해석 기능도 제공한다”라고 밝혔다. 김선수 수석은 “생성형 AI 모델을 사용하고 있는 대부분의 기업은 데이터를 연계하는 RAG 기법을 통해 더 정확하고 문제없는 답변을 얻어내고 싶어 한다”라며 “AWS도 보다 나은 생성형 AI 모델을 목표로 고민하는 기업들에 해결책을 제공하고자 관련 서비스를 지속 강화하고 있다”라고 강조했다.

“생성형AI 도입 기업 중 1가지 모델만 사용하는 기업은 3%에 불과”

AWS, 기업 AI 수요 대응 위해 ‘Amazon Bedrock’ 신규 기능·서비스 발표

기사입력 2024-08-13 14:50:47

‘아마존웹서비스(Amazon Web Sercices, AWS)’가 13일 AWS코리아 사옥에서 진행한 미디어브리핑 전경

[산업일보]
‘아마존웹서비스(Amazon Web Sercices, AWS)’가 강남구 센터필드 이스트빌딩에 위치한 AWS코리아 사옥에서 13일 미디어브리핑을 진행했다.

이번 브리핑은 지난 7월 미국 뉴욕에서 개최된 ‘AWS Summit New York 2024’의 주요 발표내용을 중심으로, AWS의 생성형 AI(인공지능) 서비스의 신규 기능과 활용 사례를 소개하기 위해 마련됐다.

AWS코리아 AI/ML 사업개발 김선수 수석 스폐셜리스트

브리핑에서 AWS코리아의 AI/ML 사업개발 김선수 수석 스폐셜리스트는 업무활용 및 비즈니스적인 측면에서 생성형 AI 활용 동향을 살폈다.

김선수 수석은 “기업들은 생성형 AI 모델을 만들기도 하고, 그 모델을 튜닝하거나 애플리케이션의 형태로 활용하는 등 다채로운 형태로 시장에 AI 서비스를 제공하고 있다”라며 “그만큼 기업들의 요구도 다양하다”라고 말했다.

그는 “AWS는 신규 생성형 AI 기능을 신속하게 선보이고자, 지난 18개월 동안 주요 제공업체보다 두 배 이상 많이 머신러닝 및 생성형 AI 기능을 출시했다”라며 “광범위한 AI 기능을 ▲FM(기초모델) 훈련 및 추론을 위한 인프라 ▲LLM(거대언어모델)과 FM을 사용해 구축 가능한 도구 ▲LLM 및 FM을 활용하는 애플리케이션, 3가지로 나눠 공급하고 있다”라고 설명했다.

그러면서, “‘아마존 베드락(Amazon Bedrock)’은 ‘도구’에 해당하는 서비스로, 단일 API에서 주요 AI모델을 쉽게 사용할 수 있게 하는 데 초점을 맞추고 있다”라며 “‘검색 증강 생성(RAG)’ 기법 활용과 에이전트 기능, 모델 커스터마이징도 가능하다”라고 덧붙였다.

김 수석은 7월 AWS Summit New York에서 발표된 베드락의 신규 기능을 공유했다.

“생성형 AI 모델을 도입한 기업 중 1가지 모델만 활용하고 있는 기업은 3%밖에 안 된다”라고 말한 그는, “대부분의 기업은 수요에 따라 파라미터가 가벼운 모델, 이미지를 이해하고 반응하는 멀티모달 모델 등 여러 생성형 AI를 동시에 사용하고 있다”라고 전했다.

이어, “베드락은 AI 모델이 새롭게 출시되면 신속하게 업로드 하고 있다”라며 “이번에는 시장의 관심이 많은 Anthropic의 ‘Claude 3’ Haiku 모델을 파인튜닝(미세조정)해서, 현재 프리뷰 형태로 살펴볼 수 있다”라고 언급했다.

또한 “‘책임감 있는 AI 사용’의 구현을 돕는 ‘가드레일(Guardrails)’ 기능을 확대한 ‘Contextual Grounding Checks’를 발표했다”라며 “RAG 기법을 토대로 AI가 생성한 정보가 참조자료 또는 질문에 얼마나 근거했는지 평가해 점수를 매기고, 일정 점수에 도달하지 못한 정보는 답변으로 제공하지 않는 것”이라고 덧붙였다.

그는 “에이전트 기능의 강화를 위해 여러 상호 작용의 정보를 기억하고 학습할 수 있는 ‘메모리 보존’ 기능도 추가, 더욱 개인화되고 원활한 생성형 AI 경험을 체험할 수 있다”라며 “코드 생성 및 실행, 데이터 분석, 그래프 생성이 가능한 코드 해석 기능도 제공한다”라고 밝혔다.

김선수 수석은 “생성형 AI 모델을 사용하고 있는 대부분의 기업은 데이터를 연계하는 RAG 기법을 통해 더 정확하고 문제없는 답변을 얻어내고 싶어 한다”라며 “AWS도 보다 나은 생성형 AI 모델을 목표로 고민하는 기업들에 해결책을 제공하고자 관련 서비스를 지속 강화하고 있다”라고 강조했다.