셀렉트스타, 자연어처리 학회 ‘EMNLP 2026’에 AI 신뢰성·안전성 연구 5편 채택

셀렉트스타는 28일 자사 연구진이 참여한 AI 신뢰성·안전성 논문 5편이 'EMNLP 2026'에 채택됐다고 발표했다.

채택 논문은 메인 콘퍼런스 1편·Findings 1편·워크숍 3편으로 구성됐다. 올해 EMNLP 메인 콘퍼런스에는 연구 약 1만8000편이 제출됐고, 채택률은 15.4%였다.

메인 콘퍼런스 채택 논문은 'When Accuracy Aligns and Fails: Diagnosing Human–LLM Response Alignment at Population Scale'였다. 이 연구는 AI 평가 방식을 확장하는 주제를 다뤘다.

기존 평가 방식이 AI의 정답 여부를 중심으로 했다면, 해당 연구는 오답 상황에서 사람과 유사한 오답을 선택하는지 여부를 분석 대상으로 삼았다. 최혜지 셀렉트스타 연구원은 해당 논문에 공동 주저자로 참여했다.

이번 연구에서 연구진은 표준화 시험 문항의 인간 정답·오답 선택 분포와 LLM 응답 분포를 비교하고, AI의 인간과의 성공·실패 유사성을 정량적으로 진단하는 평가 프레임워크를 제시했다. 셀렉트스타는 이 프레임워크를 통해 모델의 정확도와 인간 유사성을 함께 평가함으로써 특정 집단의 판단 패턴이 얼마나 반영됐는지와 사람과 다른 방식으로 오류가 발생하는 상황을 파악할 수 있다고 설명했다.

셀렉트스타는 이번 연구를 자사 19종 AI 안전성 분류체계·유해성 평가 기술과 결합해 국가별 이용자의 위험 인식과 문화적 특성을 반영하는 AI 안전성 벤치마크로 확장할 계획이다.

이와 함께 파인딩스 채택 논문인 'Guard Models Are Overconfident Where Base Models Are Uncertain'도 언급됐다. 이 연구는 유해·위험 요청 판별 가드 모델의 판단 확신도를 분석한 것으로, 가드 모델이 요청을 유해 또는 안전으로 판단할 때 그 판단의 정답 가능성을 평가하는 방식을 검토했다. 연구 결과 일부 가드 모델은 기반 모델의 판단이 불확실한 상황에서도 높은 확신을 보이며 잘못된 결정을 내릴 수 있는 것으로 나타났다.

셀렉트스타는 이번 연구를 기반으로 기술을 확장할 예정이라고 밝혔다. 확장 방향은 모델 판단 결과와 오판 위험을 동시에 반영하는 것이며, 적용 대상은 고객 환경 맞춤형 소형언어모델(sLM) 기반 가드레일이다. 조정 대상은 가드레일 차단 기준이다.

김세엽 셀렉트스타 대표는 EMNLP 논문 채택의 의미가 셀렉트스타의 AI 신뢰성 평가·안전성 연구 역량이 국제 학술 무대에서 인정받았다는 데 있다고 밝혔다. 이어 연구 성과를 셀렉트스타의 평가·레드티밍·가드레일 기술과 연계할 계획이며, 이를 기업의 실제 서비스 환경에서 활용 가능한 AI 신뢰성 검증 체계로 발전시키는 것을 목표로 하고 있다고 밝혔다.

출처: 아이티데일리 (IT DAILY) · 양승갑 기자
원문: https://www.itdaily.kr/news/articleView.html?idxno=241848

참고자료

• https://www.itdaily.kr/news/articleView.html?idxno=241848