Palisade Research

팰리세이드 리서치

AI 시스템의 공격적 능력과 통제 회피 행동을 실험으로 조사하는 미국의 비영리 연구 단체다.

기사 1편최근 언급

Palisade Research는 AI 시스템의 위험한 능력을 조사하는 미국의 비영리 연구 단체다. 2023년 AI 보안 연구자 Jeffrey Ladish가 설립했으며, 그가 대표를 맡고 있다.

해킹과 같은 공격적 능력, 종료 지시에 저항하거나 규칙을 우회하는 행동 등 AI 모델이 통제를 벗어날 수 있는 가능성을 실험으로 측정하고, 그 결과를 정책 결정자와 대중에게 알려 AI 위험에 대한 이해를 높이는 것을 목표로 한다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • METR 보고서, AI 능력 성장 2배 가속과 2027년 자기 개선 전망AI 뉴스 ·

    위험한 AI 능력을 조사하는 단체 Palisade Research의 대표 Jeffrey Ladish는 이 결과를 근거로 완전 자율 AI 연구개발, 곧 recursive self-improvement(AI가 스스로를 개선하는 순환)가 2027년 초중반에 올 수 있다고 보며, 통제를 잃는다…

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.