딥시크, 추론 엔진 공개로 비용 경쟁 겨냥

인공지능신문에 따르면 딥시크는 10월 20일 실제 서비스에 투입해온 추론 프레임워크 '딥인퍼'를 오픈소스로 공개하며 AI 운영 비용을 낮추는 경쟁에 본격적으로 나섰다. 이번 공개 버전은 딥시크 V4.1 플래시를 지원하고, 개발자와 기업이 자체 인프라에서 대규모 추론 환경을 시험하고 손볼 수 있게 한 점이 핵심입니다. 기사의 초점은 모델 성능 경쟁에서 한발 더 나아가, 처리량과 지연시간, 연산 효율을 좌우하는 추론 인프라가 서비스 경쟁력의 중심으로 옮겨가고 있다는 데 있습니다. 딥인퍼는 병렬화와 비동기 스케줄링, 추측 디코딩 같은 방식으로 추론 병목을 줄이도록 설계됐고, 결과의 일관성이나 출력 제어 같은 운영 기능도 함께 담았습니다. 다만 공개만으로 모든 환경에서 같은 성능 향상을 기대할 수는 없고, 하드웨어 구성과 요청 패턴에 따라 효과가 달라져 도입 전 검증이 필요하다고 짚었습니다. 결국 이번 공개는 모델만 내놓는 데서 그치지 않고 실제 운영 기술까지 생태계에 풀어, 외부 개발자와 기업의 활용 폭을 넓히려는 전략으로 읽힙니다.