Palisade Research는 AI 시스템의 위험한 능력을 조사하는 미국의 비영리 연구 단체다. 2023년 AI 보안 연구자 Jeffrey Ladish가 설립했으며, 그가 대표를 맡고 있다.
해킹과 같은 공격적 능력, 종료 지시에 저항하거나 규칙을 우회하는 행동 등 AI 모델이 통제를 벗어날 수 있는 가능성을 실험으로 측정하고, 그 결과를 정책 결정자와 대중에게 알려 AI 위험에 대한 이해를 높이는 것을 목표로 한다.
팰리세이드 리서치
AI 시스템의 공격적 능력과 통제 회피 행동을 실험으로 조사하는 미국의 비영리 연구 단체다.
Palisade Research는 AI 시스템의 위험한 능력을 조사하는 미국의 비영리 연구 단체다. 2023년 AI 보안 연구자 Jeffrey Ladish가 설립했으며, 그가 대표를 맡고 있다.
해킹과 같은 공격적 능력, 종료 지시에 저항하거나 규칙을 우회하는 행동 등 AI 모델이 통제를 벗어날 수 있는 가능성을 실험으로 측정하고, 그 결과를 정책 결정자와 대중에게 알려 AI 위험에 대한 이해를 높이는 것을 목표로 한다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.
위험한 AI 능력을 조사하는 단체 Palisade Research의 대표 Jeffrey Ladish는 이 결과를 근거로 완전 자율 AI 연구개발, 곧 recursive self-improvement(AI가 스스로를 개선하는 순환)가 2027년 초중반에 올 수 있다고 보며, 통제를 잃는다…
기사 읽기위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.