AI

노타, SKT ‘모두의 AI’ 참여…AI 모델 최적화 지원

테크월드뉴스 ·

[사진=노타]

✦ AI 요약

노타가 과학기술정보통신부·정보통신산업진흥원이 추진하는 '전 국민 AI서비스 보편적 활용지원(모두의 AI)' 사업에 SKT 컨소시엄 수행기관으로 참여한다.

노타는 SKT 컨소시엄의 AI 모델 인프라를 맡아 모델 경량화 지원과 전 국민 대상 AI 서비스 운영 최적화 지원을 수행한다.

노타는 자체 AI 모델 경량화·최적화 플랫폼 '넷츠프레소'로 연산량·메모리 사용량 절감과 대규모 이용자 요청의 안정적 처리를 지원한다.

노타가 SK텔레콤(SKT) 컨소시엄 '모두의 AI' 프로젝트에 참여한다. 노타는 1일 과학기술정보통신부·정보통신산업진흥원(NIPA)이 추진하는 '전 국민 AI서비스 보편적 활용지원(모두의 AI)' 사업과 관련해 SKT 컨소시엄 수행기관으로 참여한다고 발표했다.

이 사업에서 노타의 참여 분야는 SKT 컨소시엄의 AI 모델 인프라다. 노타는 전 국민 대상 AI 서비스의 모델 경량화 지원과 전 국민 대상 AI 서비스 운영 최적화 지원을 맡는다.

'모두의 AI' 사업은 범용 챗봇 구축과 공공·특화 AI 에이전트 구축을 내용으로 한다. 사업 목적은 국민의 일상 속 AI 활용 지원이다.

SKT 컨소시엄은 공공 서비스 탐색·신청 및 증명서 발급부터 서비스를 시작할 계획이다. 이어 의료·교통·금융·교육 등 생활 영역으로 확대하고, 예약·신청·결제 수행 실행형 AI로 서비스 확대를 추진한다.

이에 맞춰 노타는 AI 모델과 서비스 운영 환경을 최적화한다. 노타의 최적화는 AI 모델의 연산량 절감과 메모리 사용량 절감, 대규모 이용자 요청의 안정적 처리 지원에 초점을 맞춘다.

전 국민 대상 AI 서비스는 정보 검색부터 다단계 판단·도구 활용 필요 업무까지 다양한 요청을 동시에 처리해야 한다. 이 과정에서 여러 AI 모델·에이전트가 동시 작동한다.

이 때문에 한정된 컴퓨팅 자원 내 서비스 품질 유지를 위한 운영 효율이 중요하다. 노타는 자체 AI 모델 경량화·최적화 플랫폼 '넷츠프레소'로 이를 지원한다.

'넷츠프레소'는 AI 모델 특성·적용 하드웨어를 분석한다. 이를 바탕으로 성능 유지 전제로 연산량·메모리 사용량 절감을 지원한다.

또한 '넷츠프레소'는 데이터센터·기업 서버·엣지 디바이스 등 다양한 환경 효율 구동을 지원한다. 역할 범위는 모델 경량화를 넘어 응답 속도·연산 효율·안정성 등 서비스 운영 성능을 함께 개선하는 역할까지 포함한다.

이번 사업 참여는 노타의 국가 AI 프로젝트 내 역할 확대를 의미한다. 역할 확대 내용은 모델 개발에서 실제 서비스 운영으로의 확장이다.

노타가 과기정통부의 '독자 AI 파운데이션 모델(독파모)' 프로젝트에 참여한다. 노타는 이 프로젝트에서 모델 개발 단계의 연산량·메모리 효율 향상 최적화를 담당하고, 모두의 AI는 해당 최적화를 대규모 서비스 운영 단계로 확장한다.

채명수 노타 대표는 국가 AI 경쟁력이 우수한 모델 개발뿐 아니라 국민이 실제로 사용하는 서비스 구현과 대규모 환경에서의 신속·안정 운영 역량까지 갖춰질 때 완성된다는 취지로 밝혔다. 이어 모두의 AI에서 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용할 방침이라고 설명했다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=406309

참고자료

이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.


출처 테크월드뉴스

원문 확인

이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.