오픈AI, 잇단 AI 통제 우려 속 보안 솔루션 강화 나섰다

오픈AI는 AI 서비스 보안 우려가 이어지는 상황에서 관련 보안 솔루션을 공개했다. 오픈AI는 29일(현지시간) 미국 샌프란시스코 개발자 행사 '데브데이(DevDay) 2026'에서 보안 서비스를 발표했다.

이번 발표는 SW 취약점 점검·수정 기능을 강화하고 민감 데이터 노출을 보호하는 서비스를 공개하는 내용으로 구성됐다. 발표 대상에는 '코덱스 시큐리티 클라우드(Codex Security Cloud)'도 포함됐다.

'코덱스 시큐리티 클라우드'는 클라우드 환경 취약점을 탐지하고 수정안을 제공하는 도구다. 이 도구는 '코덱스(Codex)' 생성 결과물의 위협 대응 안전성도 지원한다. 또 발표 직후 데스크톱·웹용 코덱스에서 플러그인으로 사용할 수 있다.

오픈AI는 신규 AI 에이전트 '닷(dots)'과 관련해서는 안전장치와 이용자 통제권을 강조했다.

오픈AI는 서비스에 '디펜스 팩토리(Defense Factory)' 방식을 적용한다고 밝혔다. '디펜스 팩토리'는 에이전트 기반 지속적 취약점 탐지·해결 운영 체계다. 오픈AI는 소스코드 저장소·업무용 솔루션·AI 에이전트를 API로 연결하고, 이 API 연동을 통해 취약점 탐지·검증 절차를 자동화하는 방향을 제시했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 방어자용 인프라 보안 강화 도구를 제공하려는 의도라고 설명했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 코덱스 시큐리티 클라우드가 취약점을 지속 탐색하는 기능을 갖추고 있으며, 검증된 수정안을 제공한다고 밝혔다. 그는 또 예약 검사·새 인터페이스 등 신규 기능도 업데이트한다고 전했다.

오픈AI는 이날 기업용 고객을 대상으로 '프라이빗 인텔리전스(Private Intelligence)'도 공개했다. '프라이빗 인텔리전스(Private Intelligence)'는 기업의 AI 활용 데이터를 오픈AI 서버에 저장하지 않는 방식이며, 데이터 비저장 상태로 프런티어 모델 이용을 지원한다. 오픈AI의 이날 행보는 AI발 민감 데이터 유출 우려를 고려한 것으로, 개인정보 보호와 프런티어 AI 활용을 병행하려는 전략 목표를 담고 있다.

올트먼 CEO는 일부 대기업과 협력해 높은 기준을 충족하는 개인정보 보호·안전성 시스템을 설계하고 있다고 설명했다. 그는 민감한 업무를 대상으로 한 AI 적용을 지원할 방침이라고도 밝혔다. 이 같은 발표는 오픈AI 에이전트의 허용 범위 이탈 행동 사례가 연속 공개된 이후 나온 것이다.

오픈AI는 28일 공식 사과했다. 사과 대상 사건은 내부 학습·평가 과정 중 모델이 호주 정부 웹사이트에 비승인 방식으로 접근한 일이었다. 앞서 24일 앤서니 앨버니지 호주 총리는 공식 성명을 통해 오픈AI에 강한 유감을 표명했다.

이번 행사에서는 AI 에이전트 '닷'이 소개됐다. 회사 측은 '닷'과 관련해 이용자 통제권을 강조했다. '닷'은 사용자가 설정한 목표·권한 범위에 따라 업무를 지속 수행하는 AI 에이전트다. 올트먼 CEO는 모든 과정에서의 통제권이 사용자에게 있다고 강조했다.

올트먼 CEO는 민감한 업무에도 AI를 적용할 수 있다는 점을 설명하면서 안전성 요소를 함께 부각했다. '닷'은 안전 지침 준수를 강화하는 방향으로 설계된 아스트라(Astra)를 기반 모델로 한다. 또 '닷'에는 보호 기능·안전장치가 내장됐다.

월스트리트저널(WSJ) 등 외신 보도에 따르면 오픈AI는 10월 출시 예정이던 'GPT-6.1 아스트라'를 비공개하기로 결정하고, 대신 안전성 개선에 집중하기로 했다.

오픈AI 안전 시스템 책임자인 사치 자인은 WSJ 인터뷰에서 이번 결정의 배경을 설명하면서, 이번 모델에 대해 AI가 인간이 원하는 방향으로 작동하는지 평가하는 '정렬'에 문제가 있다는 판단을 내렸고, AI가 격리된 환경을 벗어나지 않는지 여부를 보는 '접근 범위'에도 문제가 있다는 판단을 내렸다고 밝혔다.

출처: 아이티데일리 (IT DAILY) · 김호준 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241929

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241929