A10 네트웍스, 기업 AI 운영 한곳서 관리하는 ‘A10 AI 게이트웨이’ 공개

네트워크 보안 기업이자 뉴욕증권거래소 상장사인 A10 네트웍스(티커: ATEN)가 'A10 AI 게이트웨이(A10 AI Gateway)'를 공개했다. 이 제품은 기업 내 다양한 AI 모델·애플리케이션의 운영을 통합 관리하는 것을 목적으로 하며, 기업의 AI 에이전트·애플리케이션·LLM을 하나의 제어 평면에서 관리하도록 설계됐다.

기업의 생성형 AI 활용 범위가 확대되면서 여러 공급업체의 AI 모델을 업무별로 함께 사용하는 환경이 증가하고 있다. 이에 따라 복수 모델 환경에서는 모델별 사용 현황·비용을 파악하는 일의 복잡성이 커지고, 부서별 접근 권한·보안 정책을 일관되게 적용하는 일의 복잡성도 커지고 있다. 여러 AI 모델을 병행하는 기업 환경에서는 모델 성능 외에도 업무별 적합 모델 연결과 사용량 관리 같은 운영 요소가 부각되고 있다.

A10 AI 게이트웨이는 이런 환경에서 사용자별 접근 권한을 중앙 관리할 수 있고, AI 요청 라우팅도 중앙 관리할 수 있도록 했다. 또한 사용량·비용을 중앙에서 확인·제어할 수 있고, 보안 정책도 중앙에서 확인·제어할 수 있도록 설계됐다.

A10 AI 게이트웨이는 요청 내용과 적용 정책 분석을 기반으로 Smart Routing을 제공하는 구조다. 이 게이트웨이는 요청 특성과 정책을 함께 보고 알맞은 AI 모델을 고르며, 단순 작업은 비용 효율성 고려 모델로 라우팅하고 고수준 추론이 필요한 요청은 적합한 모델로 연결한다.

또한 이 게이트웨이는 접근 제어와 기존 로컬 디렉터리 시스템 연동을 지원한다. 접근 제어 설정 단위는 사용자별·그룹별이며, 이를 통해 엔지니어링팀·재무팀별로 상이한 AI 모델 사용 구성이 가능하고 부서별 별도 라우팅 정책 적용도 가능하다.

여기에 AI 사용량·비용 관리 기능도 포함된다. 이 게이트웨이는 요청 단위 비용을 달러 기준으로 추적하고, 모델별·팀별 토큰 예산 설정과 사용 한도, 사전 알림을 지원하며, 키 기준 TPM·RPM 제어와 팀 기준 TPM·RPM 제어도 가능해 운영 통제를 지원한다.

A10 AI Gateway는 A10 기존 포트폴리오와 연계되며, TrojAI·A10 AI 방화벽·ThreatX와 통합된다. TrojAI는 개발·운영 단계 AI 보안을 맡고, A10 AI 방화벽은 AI·LLM 관련 위협 차단을 맡으며, ThreatX는 웹 애플리케이션·API 보호를 맡는다. 이를 통해 AI 모델 배포 전 테스트·런타임·네트워크 계층·API 계층까지 이어지는 보안 단계를 구성할 수 있다.

배치 환경은 기업 인프라 구성에 따라 선택할 수 있다. 제공 형태는 독립형 소프트웨어·통합 하드웨어이며, 온프레미스·프라이빗 클라우드·망분리 환경·고객 자체 인프라에서 운영할 수 있도록 설계됐다. 설계 목적은 고객 자체 인프라 운영 지원이다.

드루파드 트리베디(Dhrupad Trivedi) A10 네트웍스 사장 겸 CEO는 A10 AI Gateway가 AI 사용 현황을 확인하는 기능을 제공하고, 사용자별 모델 접근을 관리하며, 각 요청을 적절한 비용으로 최적 AI 모델에 연결한다고 설명했다. 또한 하나의 지능형 제어 평면을 제공한다고 밝혔다.

A10의 통합 포트폴리오는 고객이 대규모 AI를 활용하는 과정에서 데이터·운영 통제권을 유지하도록 지원하며, 이를 통해 기업은 속도와 통제력의 양자택일 없이 확신을 바탕으로 AI를 도입할 수 있다고 밝혔다.

출처: 테크월드뉴스 · 김경주 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407341

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407341