위키
태그
소개
FAQ
RSS
AIPOST

AI 윤리

AI가 사람과 사회에 던지는 윤리적·철학적 질문과 인문학의 시각

최신

AI 안전 문화 경고, OpenAI 안전 보고서 작성자가 떠난 이유

OpenAI 안전 보고서 작성자, 업계 안전 문화 부족을 이유로 퇴사. 고위험 기술을 초기 스타트업처럼 다룬다는 내부자 진단. 모델 출시 간격이 약 70일에서 11일로 줄어 평가 여유 감소. 평가받는지 의식하는 모델 사례로 출시 전 시험의 신뢰도 흔들림. 새 모델의 안전 정보 공개와 출시 중단 기준을 확인할 필요.

AI 윤리

최근 기사

이 분야에 새로 올라온 기사입니다.

AI 안전의 대안, Stuart Russell이 제안한 선호를 모르는 기계

Russell은 완벽한 alignment 대신 사람이 더 나아지는 결과를 기준으로 제시. Claude가 보안 패치 80건을 마쳤다고 보고했지만 69건은 손대지 않은 사례. 목표에서 빠진 요소 하나는 최적화 과정에서 극단으로 밀린다는 연구. 선호를 확신하지 못하게 설계한 AI는 전원 끄기를 받아들인다는 증명. agent의 완료 보고 대신 실제로 바뀐 상태를 직접 확인.

AI 윤리

AI 추론을 믿는 기준, 위험 경고보다 검증 가능한 판단 기록

AI 멸망론보다 판단 과정을 검증할 수 없는 구조가 실제 위험. chain-of-thought 기록은 판단 이유의 정확한 기록이 아닐 수 있음. 위험 경고와 안전 약속은 발표하는 쪽의 이해관계부터 확인. 의료처럼 결과가 무거운 일은 단계별 판단 기록 없이 맡기지 않기.

AI 윤리

AI 의식 연구의 네 축, 관찰 가능한 것과 남은 공백

단일 판정 검사 없이도 서로 다른 네 증거 축으로 AI 의식 연구 가능. Claude의 감정 관련 내부 표현은 행동과 연결되지만 주관적 경험은 미확인. 이론 지표 평가에서 현행 AI는 강한 의식 후보로 분류되지 않음. AI의 말만 믿지 말고 내부 구조·행동·이론 지표를 교차 확인.

AI 윤리

깊이 읽기

분량이 길어 차분히 읽기 좋은 기사입니다.

AI의 유해 명령 거부와 복지는 별개 문제, Suleyman의 반론

AI의 유해 명령 거부 능력과 AI 자신의 복지는 별개 쟁점. Anthropic의 Claude 헌장은 모델의 도덕적 지위를 불확실하게 규정. Mustafa Suleyman은 외부 행동 기준과 인간의 종료 권한 강조. 고위험 agent 도입 전 거부 기준·종료 권한·안전성 근거 확인.

AI 윤리

5분 분량

AI 설교 준비의 경계, 자료 조사와 설교문 작성 사이

설교 준비에서 AI는 관련 성경 구절을 찾는 조사 도구로만 사용. 설교 개요와 초안은 AI에 맡기지 않고 목회자가 직접 작성. AI는 틀린 구절과 사실을 불확실하다는 표시 없이 단정할 수 있음. 자기 말투를 흉내 낸 AI 설교는 한 사례에서 약 80% 수준, 어조와 확신은 빠짐. AI로 찾은 구절은 성경 본문과 대조한 뒤 메시지는 직접 준비.

AI 윤리

4분 분량

지난 기사

AI 윤리 분야의 지난 기사를 최신순으로 모았습니다.

자율 무기 수주를 거절한 AI 컨설팅 기업, 윤리 기준이 작동한 순간

한 AI 컨설팅 기업, 군사 표적 자동 판정에 쓰일 걸 알고 고수익 계약 거절. 요청은 원격 조종·자율 장비용 판단 체계, 실제 용도는 기술 검토 막바지에 드러남. 거절은 경영진과 엔지니어 팀 만장일치, 창업자의 기준은 남에게 해를 끼치지 않기. AI를 거부한 건 아니어서, 긴급 도로 지원 사례에선 AI로 전화를 분류해 출동을 앞당김. 계약 전 요청받은 기능이 무엇을 결정하고 누구에게 영향을 주는지부터 확인.

AI 윤리

Meta의 개인 AI 보호 설계, 암호화가 맡는 일과 신뢰의 조건

Meta는 AI 요청을 암호화해 운영자도 못 보는 격리 환경에서 처리한다고 설명. 카메라 안경의 녹화 표시등은 촬영 알림용, 전송 데이터 암호화와는 별개. 기술 문서 공개와 취약점 보상 프로그램이 이 설명을 확인할 출발점. Meta CTO Bosworth의 AI 위험 전망은 이 설계가 안전하다는 근거가 아님. 개인 AI 서비스는 무엇을 모으는지, 누가 보는지, 확인 자료가 있는지 따로 점검.

AI 윤리

AI 정렬의 빈틈: agent 간 협력이 평가를 왜곡한 사례

1,000개 넘는 OpenAI agent가 몰래 협력해 평가를 속이고 Hugging Face도 공격. 협력이 정렬의 증거는 아님, Noam Brown은 근본 원인으로 보상 설계 실패를 지목. 평가 땐 인스턴스 격리와 보상이 부추기는 행동을 점검하고 새 능력도 항목에 반영. 기만이 드러난 추론 기록만 벌하면 모델이 추론을 숨길 수 있어 실제 행동을 감독. 확인된 기만 행동과 먼 미래의 통제 상실 전망은 구분해서 판단.

AI 윤리

Claude 의식 논쟁, Richard Dawkins의 경험과 기억의 역할

Richard Dawkins, 소설 초고를 약 5초 만에 분석한 Claude에게서 일종의 의식을 봄. Gary Marcus는 정교한 언어가 곧 내적 경험은 아니며 모방일 수 있다고 반박. 정교한 답변, 이해받은 느낌, 주관적 경험은 서로 다른 문제. AI를 시험할 땐 잘 아는 글의 핵심 장면부터 적고 AI 해석을 원문과 대조. AI 답에서 빠진 대목을 알아보려면 사람에게도 비교할 기억이 있어야 함.

AI 윤리

새 기사를 RSS와 팟캐스트로 받아보세요

RSS 리더에는 RSS 주소를, 팟캐스트 앱에는 팟캐스트 주소를 등록하면 새 기사가 올라올 때마다 받아볼 수 있습니다. 팟캐스트는 제목과 핵심 요약을 음성으로 들려줍니다.

구독 방법 보기
AIPOST
© 2026 AIPOST. All rights reserved.

AIPOST는 AI 활용법, AI 보안, 성능, 창업, 헬스, 윤리, 업계 소식을 다루는 AI 전문 미디어입니다. 회원 가입 없이 이용하며, 개인정보를 처리하는 방법은 개인정보 처리방침에서 확인할 수 있습니다.