에이젼트는 AI 혁명의 제3 물결

-생성형 AI와의 차이, 도입과 운용 면에서의 과제-

•에이전트형 AI는 자율적으로 복잡한 작업을 수행하며, 특정 컨텍스트와 초점을 맞춰 설계되어 인간의 능력과 생산성을 높이는 잠재력을 지니고 있다.

•이를 도입하기 위해서는 기존 시스템과의 통합, 정제된 데이터, 그리고 파일럿 프로그램을 통한 전략적 접근이 필수적이다.

•에이전트형 AI는 기존 생성형 AI와 달리 자율성과 의사결정 기능이 강조되며, 윤리적 지침과 인간의 감독이 중요하다.

•성공적인 도입을 위해 기술적 이해와 함께 워크플로우와 인간-기계 협업에 대한 포괄적인 접근이 필요하다.

에이젼트형 인공지능(AI)에 의해 AI는 생성형 AI를 초월하는 새로운 차원에 도달할지도 모른다. 에이젼트형 AI의 특징과 과제 및 차이점을 알아본다.

Salesforce의 CEO인 Marc Benioff는 에이전트 기반 AI를 이 분야의 급속한 진화 발전에 따른 제3의 물결로 파악하고 있다.

"불과 몇 년 만에 3세대 AI가 등장했다." 

Benioff는 최근 뉴욕 타임즈에 다음과 같이 썼다.

"처음에는 데이터를 분석하는 예측 모델이었다. 

그 다음은 ChatGPT와 같은 딥 러닝 모델에 의해 구현되는 생성형 AI가 등장했다. 

현재 제3의 물결이 도래하고 있다. 이 AI의 특징은 복잡한 작업을 자율적으로 처리할 수 있는 지능형 에이전트이다."

AI 에이전트(지능형 어시스턴트)는 디지털판 동료나 어시스턴트 및 고객 서비스 담당자의 역할 담당을 목적으로 하고 있고 자연어 처리로 커뮤니케이션을 한다. 

Benioff는 "이전에는 상상할 수 없었던 방식으로 인간의 능력을 높이는 잠재력을 가지고 있다"고 말했다.

"기업이 AI 에이전트를 활용하여 고객과의 인터랙션 관리, 데이터 분석, 영업 전략의 최적화, 사람의 감독 없이 거의 실시간으로 운영 업무를 수행할 수 있는 세상을 상상해 보라."

AI 에이전트는 핵심에 중점을 두고 있어 광범위한 AI로는 효과적으로 제공할 수 없는 새로운 기능이나 실질적인 ROI를 실현할 수 있다는 점에서 업계의 의견이 일치하고 있다. 

"에이전트형 AI는 상당한 가치를 창출하는 차세대 혁신이 될 것이다." 

Boston Consulting Group의 기술 구축 및 설계 부서인 BCG X의 전무 이사 겸 선임 파트너인 Sesh Iyer는 ZDNET에 다음과 같이 말했다.

그는 "프로세스를 근본적으로 재설계하여 생산성을 대폭 향상할 수 있는 절호의 기회"라고 말했다.

분석 AI 또는 생성형 AI와 마찬가지로 AI 에이전트의 구축 및 사용에 있어서 윤리 및 운영에 대한 명확한 지침을 따라야 한다.

여기에는 오류를 최소화하기 위한 텍스트나 거버넌스 시스템이 포함된다. 

모든 AI 사례와 마찬가지로 규정 준수와 공정성을 보장하기 위해 실사도 필수적이라고 Iyer는 말한다.

일반적인 AI와 마찬가지로 AI 에이전트를 설계, 구축 및 관리하는 데 적합한 기술이 필요하다고 그는 덧붙였다.

이러한 인재들은 대부분 기업조직에 속해 있을 가능성이 높으며 필요한 분야의 지식을 갖추고 있을 것이다. 

"직원들의 스킬을 높여 에이전트형 AI를 효과적으로 관리하고 사용할 수 있도록 하자.

사내 전문 지식을 개발하는 것이 이러한 시스템에서 장기적인 가치를 창출하는 데 중요하다."

생성형 AI와 에이전트형 AI 사이에는 현저한 차이점도 있다.

"에이전트형 AI는 자율적으로 결정을 내리도록 특별히 설계되었으며, 생성형 AI의 일반적인 사용과 달리 사람의 개입이 필요하지 않은 경우가 많다.

" Mendix의 전문가인 David Brault의 말이다. 그는 에이전트형 AI가 생성형 AI와 차별화되는 여러 가지 특징이 있다고 지적하고 있는데, 먼저 컨텍스트와 핵심을 예로 들었다.

생성형 AI 애플리케이션은 다양한 기능과 산업을 대상으로 할 수 있지만, 에이전트형 AI는 "특정 환경과 컨텍스트에 초점을 맞춘다"고 Bault는 말했다. 

Enthought의 최고운영책임자(COO)인 Michael Connell도 같은 의견으로, 오늘날 에이전트 기반 AI의 가장 좋은 유스케이스는 "예측 가능하고 정의할 수 있고 오류 위험이 낮거나 오류가 발생하더라도 그 영향의 중요도가 적은 업무"라고 말한다.

또한 에이전트형 AI와 기존 시스템의 통합은 생성형 AI의 경우와 다르다.

Brault는 "에이전트형 AI의 의사결정 기능을 활용하려면 기존 시스템을 수정하고, 기존 API와 통합하여, 확립된 비즈니스 로직을 이용해 의사결정의 정확도를 높여야 한다“고 주장한다.

생성형 AI에서 에이전트형 AI로의 전환을 준비하려면 "소규모로 시작하여 전략적으로 확장해야 한다"고 그는 조언한다. 

"고객 서비스 등 영향력이 큰 몇 가지 유스 케이스를 특정하여, 파일럿 프로그램 실행으로 에이전트 기능을 테스트하고 개선한다. 

이러한 유스 케이스와 병행하여 에이전트형 AI를 지원하는 새로운 플랫폼과 소프트웨어 콤포넌트에 대한 이해를 심화할 수 있다."

여기에는 기술을 넘어 사용자 여정 및 관련 워크플로우에 중점을 두는 일도 포함된다고 Iyer는 주장한다. 

"우리는 지루한 작업을 줄이고, 생산성을 높이고, 인간과 기계의 협업을 개선하기 위해 에이전트가 기술뿐 아니라 혁신하고 있는 워크플로에 대해 전체적으로 생각해야 한다."

코넬씨는 "과제는 에이전트형 AI를 기업환경이나 이노베이션 주도 업계(예: 재료 과학 R&D 및 제약)에 적용하는 것"이라고 말한다.

"이처럼 복잡한 환경에서 신뢰할 수 있는 결정을 내리기 위해서는 에이젼트가 매우 세밀하게 세부 사항을 이해할 수 있어야 한다." 

분석AI나 생성형 AI와 마찬가지로 데이터, 특히 실시간 데이터는 에이전트형 AI 성공의 핵심이다. 

코넬씨는 "에이전트 기반 AI, 에이전트를 구동하는 데이터, 테스트 시스템을 사용하는 방법을 이해하는 것"이 중요하다고 말했다. 

"AI 에이전트를 구축하려면 정제된 데이터가 필요하며, 어플리케이션에 따라 문제 도메인을 정확하게 나타내는 레이블이 지정된 데이터도 필요하다. 

또한 모델을 훈련하고 검증할 수 있는 충분한 데이터가 필요하다."

코넬씨는 에이전트에 대한 의존도가 높아짐에 따라 "새로운 감독 체계가 필요하며, 특히 전통적인 감독 모델로는 충분하지 않은 고위험 지역에서 더욱 그러하다"고 말했다. 

이것은 인간의 감독이 항상 필요하다는 것을 의미한다. 결국, 에이전트를 잘못 적용하면 의도하지 않은 결과가 발생할 위험이 있다.

참고 | https://www.zdnet.com/article/agents-are-the-third-wave-of-the-ai-revolution/​​