LGU+、AIコーディングモデル運営費を90%削減…来年B2B事業化
IT DAILY ·
✦ AI 要約
LGU+は実際のサービス運営で蓄積したAIモデル運営技術により、コスト削減効果を検証したと明らかにした。
コーディング業務では自社AIモデル使用時の運営費が約90%低く、モデルルーティングの適用により一般質問処理コストは25%以上、コーディングエージェントコストは30%以上減少した。
LGU+は2027年にB2B AIコスト最適化事業を推進し、AIモデル運営・推論・インフラ最適化技術をまとめて企業顧客向け事業を展開する計画である。
BizCrush韓国語の発表やライブを、リアルタイムで聴きたいならCapCrush(Web版)を試す
LGU+は、実際のサービス運営過程で蓄積したAIモデル運営技術を基に、コスト削減効果を検証した。コスト削減の根拠は、通話AI・AICCなど実際のサービスで蓄積したモデル運営技術だった。LGU+は15日、AIモデル運営費削減技術・事業化計画の公開事実を発表した。
イ・サンヨプLGU+ CTO(専務)は12日、記者向けの「AIトークン最適化スタディ」でAI運営費削減技術・事業化計画を発表した。LGU+は自社検証の結果、コスト削減効果は適用技術・業務類型別に差があったと明らかにした。
業務の性格に合った自社モデルの活用とモデルルーティングの適用により、コストは下がった。コーディング業務で自社AIモデルを使用した場合、通常の使用モデルに比べ運営費は約90%低かった。LGU+は、自社AIモデルを活用したコーディング業務の運営費を約90%削減した事例を確保した。内部試験では、作業に適したAIモデルを選ぶ「モデルルーティング」技術を適用した。その結果、一般質問処理コストは25%以上減少し、コーディングエージェントコストは30%以上減少した。
LGU+はこれを基に、2027年のB2B AIコスト最適化事業を推進する計画である。
同社はAI運営において、個別AIモデルの使用料よりも、業務完了にかかる総コストの削減をより重要視している。AIエージェントが不要な検索と分析を繰り返せば、安価なモデルを使っても総コストが増加し得るとみている。このため、作業の難度と特性別に異なるモデルを配置し、重複検索と検証を減らす技術を開発している。
このような方式は、AI通話エージェントixi-OとAICC、社内業務用AIサービスを運営した経験を基に形成された。ixi-Oの発売当初は、LG AI研究院のオンデバイスモデルとGoogle Geminiを並行活用した。その後は、自社AIモデルとEXAONEなどの比重を調整し、その結果、サービス品質とコスト効率が改善したと説明した。
同時に同社は、モデルの軽量化と推論効率向上技術も確保した。LGU+は、自社オンデバイスAIモデルのサイズを2.4~3GBから約800MBへ縮小したと発表した。また、比較対象のクラウドモデルに比べて95%以上の性能を確保したと明らかにした。
LGU+は性能向上のため、回答生成と検証を分ける推論技術を適用したと明らかにした。この方式は、小さなモデルが先に回答を生成し、大きなモデルがそれを検証する構造である。LGU+は、モデル運営・推論・インフラ最適化技術を組み合わせてこの技術を活用した結果、トークン生成速度が2倍以上向上し、同一インフラ基準で演算処理効率が最大4倍向上したという自社検証結果を示した。関連研究成果としては、「NeurIPS」論文2編が採択された。
LGU+はまた、作業の性格に応じてAI半導体を組み合わせて運用し、作業特性別に区分する方向でコスト削減を進めている。対象半導体はNVIDIA GPU、AMD GPU、FuriosaAI NPUである。作業は大規模演算が必要な作業とメモリ帯域幅が重要な作業に分け、作業別に適した半導体へ分散処理することで、インフラコストを削減する構想である。これに関連し、FuriosaAI NPUの検証を進めており、FuriosaAIとは2年以上協力してきた。
LGU+はこうした最適化技術をまとめ、2027年から企業顧客向けのAIコスト最適化事業を推進する計画である。事業方式としては、協力会社との提携型モデルの活用と、自社インフラ構築の方式を活用する方針である。
イ・サンヨプLGU+最高技術責任者(CTO)は、AI市場を主導する基準が変化しているとし、より大きなモデルを構築する競争は弱まり、今後の優位性は顧客が望むビジネス成果をどれだけ精緻かつ経済的に達成するかにかかっていると説明した。
出典:IT DAILY · キム・ビョンジュ 原文:https://www.itdaily.kr/news/articleView.html?idxno=242924
参考資料
本記事は、IT DAILYの原文をもとにBizCrushがAIを用いて要約・再構成・編集したものであり、IT DAILYの原文そのものではありません。
出典 IT DAILY
原文を確認本記事は、IT DAILYの原文をもとにBizCrushが要約・編集したものです。正確な引用や詳細は原文をご確認ください。
