Goodfire

굿파이어

2024년 설립된 미국의 AI interpretability 연구 기업으로, 모델 내부를 분석해 이해하고 조정하는 기술을 개발한다.

기사 1편최근 언급

Goodfire는 2024년 미국 샌프란시스코에서 설립된 AI interpretability 연구 기업이다. Eric Ho, Dan Balsam, Tom McGrath가 공동 설립했으며, 신경망 내부에서 모델이 학습한 특징을 찾아내 모델의 동작을 이해하고 조정하는 기술을 개발한다.

대규모 언어 모델의 내부 표현을 해석 가능한 특징으로 분해하는 sparse autoencoder 같은 방법을 연구하고, 이를 이용해 모델의 출력을 유도하는 플랫폼 Ember를 제공한다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • 신경망 내부 90%는 읽힌다, Cammarata가 흔든 black box 통념AI 보안 ·

    …ility(모델 내부 회로를 부품 단위로 분석해 동작 원리를 밝히는 연구) 연구에 참여했고 지금은 interpretability 연구소 Goodfire에 몸담은 Nick Cammarata 연구진이 'Neural Networks Are Already Clean'이라는 연구 에세이에서 정반…

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.