Research Stories

View All

Research Stories

권민혜 교수팀, 사람처럼 생각하고
안전하게 일하는 차세대 AI 원천 기술 개발

챗GPT 등 AI 비서 연산 비용 3분의 1로 낮추고, 가상 환경 작업 성공률 78.3%로 3배 이상 향상

전자전기공학부 권민혜 교수

  • 권민혜 교수팀, 사람처럼 생각하고 ▼안전하게 일하는 차세대 AI 원천 기술 개발
Scroll Down

전자전기공학부 권민혜 교수 연구팀이 복잡하고 긴 작업도 사람처럼 막힘없이 해결하면서, 컴퓨터 연산 비용은 획기적으로 줄이고 안전성은 크게 끌어올린 차세대 인공지능(AI) 핵심 기술 2건을 개발했다고 밝혔다. 이번 성과는 비싼 비용 때문에 상용화가 어려웠던 AI 비서 서비스와 작은 오차도 용납되지 않는 로봇·자율주행 분야의 난제를 한 번에 풀어낸 획기적인 연구 결과로 평가받는다.


최근 챗GPT처럼 사용자의 지시를 받아 스스로 계획을 세우고 행동하는 ‘AI 비서’가 널리 쓰이고 있다. 하지만 AI 비서는 일을 진행하는 매 단계마다 다른 고성능 AI에게 “내가 지금 잘하고 있니?”라고 일일이 확인 질문을 거치기 때문에, 컴퓨터 서버 비용이 눈덩이처럼 불어나고 응답 속도가 느려지는 치명적인 한계가 있었다.


연구팀(제1저자 박희원 박사과정생)은 학생이 혼자 공부하다가 도저히 풀리지 않는 헷갈리는 문제가 나올 때만 선생님께 힌트를 요청하듯, AI가 자신의 판단에 대한 ‘확신의 정도’를 스스로 파악해 꼭 필요한 순간에만 도움을 받는 ‘선택적 검토(SAG)’ 기술을 개발했다. 또한 성공한 경험을 차곡차곡 쌓아 스스로 실력을 키워나가도록 만들어 외부 피드백 의존도를 점차 낮췄다.


그 결과, 복잡한 가상 환경 테스트에서 기존 방식보다 컴퓨터 연산 자원 소모를 약 3분의 1 수준으로 대폭 줄이면서도, 임무 성공률을 기존 24.6%에서 78.3%로 3배 이상 비약적으로 끌어올리는 뛰어난 연구 성과를 달성했다.


이와 함께 연구팀(제1저자 강구현 석사과정생)은 로봇이나 자율주행차처럼 실수가 곧장 큰 사고로 이어지는 환경에서 AI가 운 좋게 얻어걸린 성공에 속지 않도록 하는 '고신뢰성 제어 ‘고신뢰성 강화학습(VAN-Flow)’ 기술을 완성했다. 사고 위험 때문에 사전에 모아둔 과거 데이터로만 AI를 학습시킬 때, 간혹 ‘어쩌다 한 번 운 좋게 성공했던 위험한 행동’까지 AI가 좋은 방법으로 착각해 따라 하다가 전체 기계 시스템이 멈추거나 오작동하는 문제가 빈번했다.


연구팀은 요행에 기댄 불안정한 행동은 과감히 버리고 어떤 상황에서도 일관되게 성공하는 안전한 행동만을 쏙쏙 골라 학습시키는 새로운 수학적 알고리즘을 고안했다. 이를 바탕으로 주변 방해요소가 많고 장시간 정밀한 조작이 필요한 40개 이상의 복잡한 로봇 제어 시뮬레이션 과제에서 대부분 기존 최신 기술들을 앞서는 성공률을 기록하였다.


한편, 성균관대 연구팀이 거둔 이번 두 연구 성과는 구글, 오픈AI 등 전 세계 최고의 빅테크 기업과 석학들이 모여 ‘인공지능 분야의 올림픽’이라 불리는 세계 최고 권위 학술대회인 ‘제40회 신경정보처리시스템학회(NeurIPS 2026)’에 나란히 정식 채택되어 그 독보적인 기술력을 세계 무대에서 공인받았다.


권민혜 교수는 “우리 학생 연구원들이 주도적인 열정으로 실생활과 산업 현장에 즉각 적용 가능한 실용적 원천 기술을 완성해 뜻깊다”며 “앞으로 기업과 일상에서 비용 부담 없이 안심하고 믿고 맡길 수 있는 차세대 자율 AI 시스템 구축에 지속적으로 기여하겠다”고 밝혔다.



▲ 선택적 검토(SAG) 프레임워크 동작 개념도




▲ 분산 회피형(Variance-Averse) 가치 평가 원리 그래프

논문 게재 성과 SKKU RESEARCH STORY

Selective Critique for Cost-Aware LLM Agents in Long-Horizon Decision Making (SAG)

Variance-Averse n-Step Offline Reinforcement Learning for Sparse Long-Horizon Environments (VAN-Flow)n


COPYRIGHT ⓒ 2017 SUNGKYUNKWAN UNIVERSITY ALL RIGHTS RESERVED. Contact us