guardrail가드레일
AI 시스템이 해롭거나 의도하지 않은 출력과 행동을 하지 않도록 거는 제한 장치다.
기사 3편
최근 언급 guardrail은 AI 시스템이 해롭거나 정책에 어긋나거나 의도하지 않은 출력과 행동을 하지 않도록 거는 규칙, 필터, 검사 같은 제한 장치를 뜻한다. 입력과 출력을 걸러 내는 방식, 모델 학습 단계에서 행동을 조정하는 방식, 도구 사용 권한을 제한하는 방식 등으로 구현된다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.
이 항목을 다룬 기사
범위를 벗어난 위험한 질문은 도움이 되려고 애쓰기보다 아예 받지 않도록 guardrail(안전 장치)을 두는 편이 낫다는 판단입니다.
내부를 이해하지 못한 채 덧붙이는 guardrail(안전장치)은 효과가 약하다는 것이 그의 판단입니다.