AI

LG유플러스-옵트에이아이, AI 운영 효율 향상 위한 토큰 최적화 연구

테크월드뉴스 ·

[사진=LG유플러스]

✦ AI 요약

LG유플러스는 2일 옵트에이아이와 협업 추진을 발표했다.

이번 협력은 토큰 최적화 기술 확보에 맞춰 AI 서비스와 AI 인프라 운영 효율을 높이는 데 목적이 있다.

양사는 서버 GPU 환경까지 공동 연구 범위를 넓혔고, 동일 GPU 기준 처리 가능 토큰량은 기존 대비 최대 4배 향상됐다.

LG유플러스는 2일 옵트에이아이와 협업 추진을 발표했다. 목적은 자사 AI 서비스·AI 인프라 환경 운영 효율 향상이다.

이번 협력 계획은 '토큰 최적화' 기술 확보에 맞춰졌다. 목표는 AI 서비스 운영용 GPU·전력 사용량 절감과 응답 속도·서비스 품질 향상이다. 토큰 최적화는 AI 모델 경량화·연산 과정 효율화 기술이다. 토큰 최적화의 효과는 같은 자원으로 더 많은 요청을 처리하는 데 있다.

협력 구조는 LG유플러스와 옵트에이아이의 역할을 결합하는 방식이다. LG유플러스는 실제 AI 서비스 운영 경험을 기반으로 기술 검증·적용을 담당한다. 옵트에이아이는 AI 모델 경량·고속 구동 기술의 연구·개발을 담당한다.

양사는 온디바이스 AI 분야 협력을 지속하고 있다. 또한 양사는 지난 1일 'Efficient AI 테크 세미나'를 공동 개최했다.

세미나 주제는 AI 운영 효율화 기술의 최신 연구 동향·산업 적용 사례 공유였다. 세미나에서는 AI 운영 효율 향상을 위한 기술 발전 방향이 논의됐다. 아울러 세미나에서 향후 협력 방향에 대한 논의도 진행됐다.

양사는 이번 기술 교류를 계기로 서버 GPU 환경까지 공동 연구 범위를 확대했다. 중점 연구 계획은 대규모 AI 서비스 운영 시 동일 GPU 자원으로 더 많은 이용자 요청을 처리할 수 있도록 AI 모델 연산 과정을 효율화하는 데 맞춰졌다.

현재 GPU 기반 AI 모델 최적화 연구가 진행 중이며, 초기 성과도 도출됐다. 양사는 AI 모델 답변 생성 연산 과정을 실제 서비스 환경에 맞게 개선했다.

그 성과로 동일 GPU 기준 처리 가능 토큰량은 기존 대비 최대 4배 향상됐다. LG유플러스는 확보한 기술을 자사 AI 서비스와 대규모 AI 인프라 운영 환경에 단계적으로 적용할 계획이다.

LG유플러스는 AI 운영 효율을 지속 제고할 계획이다. 이상엽 LG유플러스 CTO는 AI 경쟁력의 핵심으로 동일 자원 대비 토큰 처리 효율을 제시했으며, 옵트에이아이 등 다양한 파트너와 협력해 토큰 최적화 기술 연구를 확대하고 실제 서비스 적용 성과 창출을 추진하겠다는 입장을 밝혔다.

이재호 옵트에이아이 대표는 생성형 AI 시대에는 고성능과 함께 운영 효율 확보의 중요성이 커졌다고 강조하며, 이러한 인식에 따라 옵트에이아이·LG유플러스 협력을 바탕으로 실제 서비스 환경에서 검증 가능한 AI 최적화 기술 고도화를 추진하고, 이를 통해 AI 산업 효율성 향상에 기여하겠다는 의지를 표명했다.

출처: 테크월드뉴스 · 김혜진 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=407717

참고자료

이 기사는 자동생성 알고리즘의 도움을 받아 작성되었습니다.


출처 테크월드뉴스

원문 확인

이 기사는 테크월드뉴스 원문을 바탕으로 비즈크러시가 요약 정리했습니다. 정확한 인용과 세부 내용은 원문을 확인해 주세요.