polysemanticity

다의성

신경망의 neuron 하나가 서로 무관한 여러 특징에 동시에 반응하는 현상이다.

기사 1편최근 언급

polysemanticity(다의성)는 신경망의 neuron 하나가 서로 무관해 보이는 여러 특징이나 개념에 동시에 반응하는 현상이다. 하나의 특징에만 반응하는 neuron은 monosemantic(단의적)이라고 부른다.

합성곱 신경망과 언어 모델의 neuron을 분석한 interpretability 연구에서 널리 관찰됐으며, 모델이 차원 수보다 많은 특징을 겹쳐 담는 superposition이 주요 원인으로 설명된다. neuron 단위의 해석을 어렵게 하는 요인이어서, 내부 표현을 단의적인 특징으로 분해하는 sparse autoencoder 같은 방법이 연구된다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • 신경망 내부 90%는 읽힌다, Cammarata가 흔든 black box 통념AI 보안 ·

    polysemanticity(다의성), 즉 neuron 하나가 서로 무관한 여러 대상에 동시에 반응하는 현상입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.