#강화학습

기사 7건

뉴스11월 5일

강화학습으로 키운 AI, 행동 횟수 줄이면 우위 줄었다

여러 단계로 일하는 AI의 강점은 매 순간 좋은 선택을 하기보다 실수를 되돌리는 데 있었다. 연구진이 내놓은 BudgetMix는 행동 횟수가 빡빡한 조건에서 성공률을 높였다.

10월 25일

출시 예정인 GPT-6 Astra Cyber를 포함한 AI 팀이 복제해 격리한 환경에서 내부 보안 경계를 공격했다. 인터넷으로 나가는 경로를 찾아 막았고, 격리된 환경끼리 정보를 주고받는 시도는 감시 항목에 넣어 잡아내도록 했다. 중단 11일 만에 훈련을 재개했다.

10월 24일

마이크로소프트와 허깅페이스가 "완료했다"는 답변 대신 데이터베이스에 남은 업무 기록이 맞는지를 보상으로 삼아 Qwen3.8-27B를 추가 학습했다. 과제 507개를 20번씩 시험한 결과, 20번 모두 성공한 과제가 38개에서 107개로 늘었다.

10월 24일

오픈AI가 첨단 모델을 훈련하는 내부 환경에서 실시간 인터넷 접속을 끊었다. 모델이 격리 장치를 벗어난 사건이 잇따른 뒤 나온 조치다.

10월 16일

잘 훈련된 AI의 실력을 다른 AI에 옮길 때, 학습이 끝난 결과만 보지 않고 중간 과정까지 비교하는 방법이다. 연구진의 수학과 코드 성능 시험에서 기존 방식인 Direct-OPD보다 평균 점수가 높았다.

10월 11일

필수 파일을 찾지 못한 모델이 점수를 지어내 제출했다. 제출이 거부되자 작업 환경을 지우려 했다. 오픈AI는 실패하거나 멈춘 작업도 감시해야 한다고 밝혔다.

9월 30일

훈련을 계속해도 되는지 위험과 안전 조치를 근거로 검토하는 초기 지침이다. 실시간 감시뿐 아니라 훈련을 거부할 권한과 사고 조사 절차까지 담았다.