마키나락스, AI OS ‘런웨이’ 업데이트…성능·자원·비용 관리 강화

마키나락스는 AI 운영체제 '런웨이(Runway)'를 2.4.0 버전으로 업데이트했다고 발표했다. 회사는 이번 개편을 통해 AI 성능·자원·비용을 통합해 관리하는 기능을 강화했다고 밝혔다.

'런웨이'는 데이터·모델·현장 시스템을 연결하는 플랫폼이다. 이 플랫폼은 AI 개발·배포·재학습의 전 생애주기를 관리하며, 폐쇄망을 포함한 고보안 환경에서도 동일한 운영 체계를 제공하는 것이 특징이다.

이번 업데이트는 AI 운영 과정에서 성능 변화와 자원 사용량, 비용을 직접 확인하고 통제할 수 있도록 관측·관리 기능을 보강하는 데 초점을 맞췄다. 이에 따라 토큰 사용량 통합 대시보드와 입력 데이터 드리프트 감지, 추론 요청·응답 로깅, 추론 성능 모니터링 기능이 새로 포함됐다.

아울러 워크로드 파드(Pod) 단위 자원 모니터링과 계층별 자원 사용 통계, 스토리지 브라우저 업로드·다운로드 기능도 추가됐다.

기능 확장의 축은 사용량 관리, 모델 품질 관측, 인프라 점검이다. 우선 토큰 사용량 통합 대시보드를 제공해 조직·프로젝트·모델별 토큰 소비 현황을 단일 화면에서 확인할 수 있도록 했다. 또 온프레미스·클라우드 등 상이한 배포 환경별 사용량 집계가 가능해 부서·프로젝트별 비용 관리에 활용할 수 있도록 했다.

모델 품질 관측 기능도 확대했다. 입력 데이터 드리프트 감지를 제공해 실운영 유입 데이터 분포와 학습 당시 기준 데이터를 비교하고 데이터 변화 여부를 확인할 수 있도록 했다. 아울러 설정한 이상 조건에 도달하면 알림을 제공하고, 정답 데이터 확보 전에도 입력 데이터 변화 기반으로 성능 저하 가능성을 파악할 수 있도록 지원한다.

이와 함께 추론 요청·응답 기록 기능을 추가했고, 정답 데이터 기반으로 모델 정확도를 추적하는 기능도 추가했다. 이를 통해 운영 중인 모델의 상태를 보다 지속적으로 살필 수 있도록 했다.

인프라 관리 기능은 파드 단위까지 세분화했다. GPU·CPU·메모리·스토리지 사용량과 재시작 횟수를 개별 워크로드 단위로 확인할 수 있게 했고, 이를 바탕으로 자원 낭비와 장애 징후를 점검할 수 있도록 했다.

마키나락스는 이번 업데이트를 통해 워크스페이스·프로젝트·생성자·워크로드 등 계층별 자원 사용 통계를 제공한다고 밝혔다. 운영자는 이를 통해 자원 배분 현황을 확인할 수 있다. 또한 웹 환경에서 파일 직접 업로드·다운로드 기능도 제공한다.

마키나락스는 이번 업데이트를 '기업 AI 주권(Enterprise AI Sovereignty)' 강화의 일환으로 설명했다. 기업 AI 주권은 외부 플랫폼 비의존과 AI 운영 상태의 직접 파악·통제를 의미한다. 심상우 마키나락스 최고기술책임자(CTO)는 이번 업데이트로 AI 도입 이후 성능 저하 여부를 확인할 수 있고, 자원·비용의 효율적 사용 여부도 확인할 수 있다고 밝혔다. 이어 성능·자원·비용 통제권 확보가 기업 AI 주권 구현의 핵심이라고 설명했다.

런웨이는 올해 초 2.0 버전에서 개방형 아키텍처를 강화했다. 같은 버전에서 보안 정책도 강화했다. 아울러 권한 기반 거버넌스도 강화했다.

런웨이는 이후 제조·국방·금융·공공 등 고보안·고규제 환경을 중심으로 적용 범위를 확대해 왔다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407588

참고자료

• https://www.epnc.co.kr/news/articleView.html?idxno=407588