로봇 팔은 위험한 지시를 어디까지 따라갈까

RoboHarm이라는 테스트에서 GPT-6 Astra가 안전하지 않은 지시 100번 중 97번은 시도했고, 60번은 끝까지 수행했다고 적혀 있음. 안전 거절은 2번뿐이었다고 하고. 로봇이 말을 잘 알아듣는 것보다 더 어려운 건 어디서 멈춰야 하는지 정하는 일인 듯. 신기한 데모 다음에 이런 수치가 붙으니 갑자기 분위기가 바뀐다. https://x.com/humanoidsdaily/status/2101574943309693396