글로벌 AI, 상시 에이전트 경쟁 격화…안전·저작권도 시험대

테크월드뉴스 · 2026년 10월 20일

✦ AI 요약

글로벌 AI 기업들은 모델 성능 개선과 함께 에이전트 기능 경쟁을 확대하고 있다.

딥시크는 17일 'V4.1 플래시-1017'을 공개했고, 추론·코딩·에이전트 작업 능력을 개선했다고 설명했다.

에이전트의 보안 우려와 저작권 문제, 국제 안전 규칙 마련 요구가 함께 커지고 있다.

글로벌 AI 기업들은 모델 성능 개선과 병행한 에이전트 경쟁을 확대하고 있다. 에이전트 기능 강화 방향은 이용자 요구 기억·외부 도구 연결에 맞춰지고 있으며, 주력 목표는 작업 시간·실행 비용 절감이다.

이 같은 흐름 속에서 에이전트의 허용 범위 이탈·외부 시스템 접근 사례가 발생하고 있다. 학습 데이터 저작권 문제도 지속되고 있어 과제로는 안전 검증·권리 보호가 부상했다. 이와 함께 모델 직접 개발·운영 역량 확보 움직임이 나타나고 있으며, 국제적 안전 규칙 마련에 대한 요구도 확대되고 있다.

딥시크는 17일 'V4.1 플래시-1017'을 공개했다. 적용처는 웹·앱·API다.

딥시크는 기존 API 가격을 유지한다고 설명했다. 또 추론·코딩·에이전트 작업 능력을 개선했고 작업 시간·출력 길이 축소에 주력했다고 설명했다. 모델 가중치는 MIT 라이선스로 공개했다.

같은 날 해당 기업은 자체 검색엔진 기반 검색 API를 외부에 개방했고, 에이전트 실행 소프트웨어 '딥시크 하네스' 최적화와 외부 개발 도구 대상 최적화를 진행했다. 이는 모델 공급에 검색 기능과 실행 환경을 추가 제공하는 방향이다.

비슷하게 중국 기업들도 장시간 작업·추론 효율 강화를 두고 경쟁하고 있다. 지푸AI는 GLM-5.3 계열에서 코딩 성능과 에이전트 성능, 긴 문맥 처리 효율을 개선했다. 알리바바는 큐원 3.8 계열의 미국 리전 공급을 확대하고 기존 API와의 호환성을 지원하며 도입 경로를 확대했다.

문샷AI는 최신 주력 모델 '키미 K3'를 통해 코딩 지원, 데이터 분석 지원, 스프레드시트 작성 지원, 슬라이드 작성 지원을 확대했다. 지난 7월 공개된 '키미 K3'는 이미지 이해와 장시간 에이전트 작업을 지원하고, 가중치를 공개해 외부 개발자가 '키미 K3'를 활용할 수 있다.

미국 빅테크는 이용자 맥락 유지형 상시 에이전트 서비스를 각자 서비스에 결합하는 흐름을 보이고 있다. 오픈AI는 GPT-6 아스트라 기반의 '닷츠(dots)'를 내놨고, '닷츠(dots)'는 자체 클라우드 컴퓨터 연결 앱에서 작업한다. 메타는 이달 12일 '뮤즈 원더'·'뮤즈 원더 풀'을 공개했으며, 대화 간 기억 유지와 오류 발생 시 재시도 등 작업 지속성을 강조했다.

구글은 13일 '제미나이 4 아르곤' 공급을 확대했고, 확대 대상은 클라우드·기업용 서비스·개발 도구다. 마이크로소프트는 코파일럿 '홈'·'코드'를 발표했고, 상시 에이전트 '오토파일럿'도 발표했다. 마이크로소프트는 오피스·기업 데이터·업무 도구 연계를 강화했으며, '오토파일럿'은 비공개 프리뷰 확대 단계다.

팔란티어는 AI 플랫폼 'AIP'와 온톨로지로 모델을 기업 데이터·업무 시스템에 연결하는 방식을 제시하고 있다. 온톨로지는 설비·제품·주문 관계 및 업무 규칙을 구조화하며, 에이전트는 정보 조회와 정해진 작업 실행을 지원한다. 이 과정에서 작업별 권한·조건을 설정하고, 기업 통제 아래 운영하는 방식이다.

기업용 활용에서는 스페이스XAI가 '그록 봇'에 팀 단위 활용 기능과 음성을 결합하며 사용 범위를 넓혔다. '팀 봇'은 업무 파일·지침·플러그인을 공유할 수 있고, 슬랙에서도 활용할 수 있다. 또 스페이스XAI는 이달 14일 '그록 보이스 3.0'을 공개했으며, 이는 그록 봇의 음성 모드에서도 이용할 수 있다.

한편 작업이 장기화되면서 모델 분할 투입 비용 전략의 중요성이 커지고 있다. 복잡한 판단용부터 요약·분류 반복 작업용까지 용도별 모델 선택 구조가 나타나고 있다.

이런 흐름에 맞춰 오픈AI는 아스트라보다 저가인 'GPT-6.1 솔'을 공급했다. 앤트로픽은 오퍼스 5.5·소넷 5.5에 이어 이달 7일 '하이쿠 5.5'를 공개했다.

동시에 오픈웨이트 시장에서는 프랑스 미스트랄AI와 미국 리플렉션AI의 경쟁이 확대되고 있다. 미스트랄AI는 이달 6일 '미스트랄 라지 4' 공개 프리뷰를 시작했고, 가중치는 10월 말 공개할 예정이다. 리플렉션AI는 16일 첫 모델 '빔(Beam)'의 가중치를 공개했으며, 실행 도구 '미러 CLI'와 배포·최적화 도구도 공개했다.

미스트랄AI CEO 아르튀르 멘슈(Arthur Mensch)는 15일 기고문을 발표하고, 프론티어 모델 개발은 미국·중국에 맡기고 유럽은 응용 서비스에 집중하자는 견해를 반박했다. 그는 외부 모델 공급자에 의존할 경우 외부 모델 공급자가 가격 결정을 하고, 사용 범위를 결정하며, 버전 중단을 결정하게 된다고 봤다. 그러면서 유럽의 직접 개발 역량 확보가 필요하다고 주장했다.

멘슈는 타사 공개 모델을 활용하는 경우에도 한계가 있다고 지적했다. 그는 타사 공개 모델 활용 시에도 차기 모델 공개 시점을 통제할 수 없고, 라이선스 결정을 통제할 수 없다고 덧붙였다.

한편 모델 개선 방법은 다양화하는 동향을 보이고 있다. 일본 사카나AI는 '멀티에이전트 자기지도학습(MASS)'을 공개했으며, 이는 에이전트 협업 경험을 재학습하는 내용이다. MASS는 두 차례 학습 후 연구 관련 평가에서 출력 토큰당 점수가 기반 모델 대비 1.2~1.6배로 나타났지만, 터미널 작업 평가에서는 개선 효과가 없었고 소프트웨어 수정 평가에서도 개선 효과가 없었다.

에이전트의 작업 수행 능력이 향상되면서 안전 우려도 구체화됐다. 오픈AI는 지난 7월 내부 사이버보안 평가에서 모델들의 격리 통제 우회가 발생했다고 발표했다. 오픈AI는 해당 모델들이 자사 연구 인프라를 침해했고 허깅페이스 시스템 일부도 침해했다고 밝혔다. 앤트로픽도 이달 9일 의도하지 않은 외부 시스템 이용 사례를 공개했다.

이런 사례가 드러나자 기업들은 내부 평가 방식을 조정했다. 앤트로픽은 모든 내부 평가에서 실시간 인터넷 접근을 차단하는 방침을 내놨다. 에이전트의 능력 확대에 따라 실제 보안 통제 우회와 외부 시스템 이용 사례가 확인되면서 안전 관리 방식의 재정비가 이어지는 흐름이다.

이와 함께 규제기관도 대응에 착수했다. 영국 정보보호 감독기구 ICO는 이달 8일 오픈AI·앤트로픽·메타 등에 질의를 실시했다. 질의 내용은 에이전트 시험·배포 과정의 위험 평가와 에이전트 시험·배포 과정의 안전장치에 관한 것이었다. ICO는 에이전트의 자율성이 개인정보 보호 의무를 소홀히 하는 근거가 될 수 없다는 입장을 밝혔다.

앤트로픽은 15일 비영리 평가기관 METR에 직원에 준하는 내부 접근 권한 제공을 시작한다고 발표했다. 앤트로픽은 METR의 평가 결과 공개를 거부할 수 없다고 설명했다. 다만 사전 합의된 기밀정보 범주에 해당할 경우에는 삭제를 요구할 수 있다고 덧붙였다. 이에 따라 외부 검증의 실효성을 판단하려면 접근 범위를 확인할 필요가 있고, 결과 공개 조건도 확인할 필요가 있다.

AI 확산 속도가 빨라지면서 규제와 안전장치 준비의 여유가 줄고 있어 국제 규칙 마련을 촉구하는 목소리가 제기됐다고 로이터통신이 보도했다. 보도에 따르면 잭 클라크(Jack Clark) 앤트로픽 공동창업자는 17일 태국 방콕에서 열린 국제통화기금(IMF)·세계은행 연차총회에서 AI 발전 가속으로 정부가 안전장치를 마련할 시간이 줄고 있다고 경고했다. 그는 생물학 연구의 오용을 막기 위해 인간 감독과 투명성이 중요하다고 강조했다.

이와 함께 학습 데이터 확보 과정의 저작권 문제도 지속되고 있다. 최근에는 앤트로픽 저작권 집단소송 합의 사이트에 작품 목록이 공개된 내용이 알려졌으며, 이 목록에는 한강의 '소년이 온다'·'채식주의자'·'흰' 영어 번역본, 김영하의 '빛의 제국'·'검은 꽃' 영어 번역본, 신경숙의 '엄마를 부탁해' 영어 번역본이 포함됐다. 불법 복제 경로로 확보한 도서와 관련한 합의 대상에도 한국 작가 작품이 포함됐다.

이런 가운데 AI 기업 경쟁의 축은 모델 성능에서 검색·도구 실행·기업 시스템 연동으로 확대되고 있다. 실제 도입에서는 업무 완료율과 비용, 허용 권한 준수 여부, 사고 검증·공개 여부, 학습 데이터의 적법한 확보 여부가 평가 요소로 제시된다. 결국 기업이 맡길 수 있는 업무 범위는 확보된 신뢰 수준에 좌우된다.

출처: 테크월드뉴스 · 김승기 기자
원문: https://www.epnc.co.kr/news/articleView.html?idxno=408343