스노우플레이크, ‘코텍스 AI 게이트웨이’ 기능 확대…‘인텔리전스 효율성’ 개선 지원

스노우플레이크는 19일 '코텍스 AI 게이트웨이'와 자사 AI 제품에 '다이나믹 모델 라우팅'을 도입한다고 발표했다. 신규 기능은 지난달 발표된 코텍스 AI 게이트웨이 기반이다.

코텍스 AI 게이트웨이는 에이전트 연결 관리·요청 지능형 라우팅·AI 소비 최적화 지원 통합 기반의 성격을 가진다. 스노우플레이크는 이를 바탕으로 자사 AI 제품군에 '다이나믹 모델 라우팅'을 도입한다고 밝혔다.

스노우플레이크는 기업이 AI 애플리케이션·에이전트 운영을 확대할수록 단일 모델을 모든 작업에 적용하는 방식은 비용 급증 가능성이 있다고 진단했다. 또 다양한 모델의 개별 평가·관리 필요가 개발팀의 업무 부담을 초래한다고 분석했다.

회사 측은 해당 기능의 활용처로 AI 워크로드 비용 효율화와 '인텔리전스 효율성' 개선을 제시했다. '인텔리전스 효율성'은 컴퓨팅 자원·모델·데이터·맥락이 비즈니스 성과로 전환되는 정도를 뜻한다고 설명했다.

스노우플레이크는 모델 선택의 부담을 줄이기 위해 모델 선택 자동화와 함께 오픈 모델·상용 모델 접근성을 제공하고 있다. 코텍스 AI 게이트웨이는 작업별 품질·비용 균형을 고려해 모델을 자동 선택하며, 이 다이나믹 모델 라우팅 기능은 스노우플레이크 코코와 스노우플레이크 코워크, 코텍스 AI 게이트웨이를 사용하는 서드파티 AI 에이전트에 적용된다.

스노우플레이크는 반복적·덜 복잡한 작업에는 비용 효율적 모델을 배분하고, 심층 추론이 필요한 작업에는 프런티어 모델을 배분한다고 설명했다. 회사 측은 이에 따라 고객이 요청별로 직접 모델을 선택·관리할 필요가 없으며, 추론 비용 절감이 가능하다고 설명했다.

동시에 스노우플레이크는 스노우플레이크 코텍스 AI를 통해 딥시크 V4 플래시 0731, GLM-5.32 등 오픈 모델에 대한 고객의 접근성도 확대한다. 회사는 해당 모델들을 모델 라이브러리에 추가했다고 설명했다.

고객은 거버넌스가 적용된 데이터를 스노우플레이크 내에 유지할 수 있으며, 품질·비용 균형에 맞춘 모델 선택이 가능하다. 스노우플레이크는 스노우플레이크 코텍스 AI를 통해 오픈 모델뿐 아니라 상용 모델에 대한 접근성도 제공하고 있다.

회사는 새 기능의 목적을 기업의 AI 사용 확대 자체보다 그 과정에서의 AI 경제성 관리 지원에 두고 있다고 밝혔다. 이 기능은 작업별 적합 모델 연결을 지원하고, 불필요한 비용 축소를 지원하며, 인텔리전스 효율성 확보를 지원하는 기능이라고 설명했다.

슈리다 라마스워미 스노우플레이크 CEO는 기업들이 AI 경제성 평가를 강화하는 추세라고 밝혔다. 그는 핵심 기준이 AI 사용량보다 유의미한 비즈니스 가치 연결 여부라며, 인텔리전스 효율성 달성 조건으로 변화하는 환경에 맞춘 작업별 최적 모델의 유연한 사용을 제시했다.

이어 그는 스노우플레이크의 역할이 복잡성 대행 처리와 고객의 성과 집중 지원에 있다고 설명했다. 또 기반 단계의 모델 선택 최적화를 통해 이러한 대응을 뒷받침한다는 입장을 밝혔다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241074

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241074