Видео

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터 유럽 EDPS 설명가능한 인공지능 XAI 자료: idr.jinbo.net/2078 설명가능한 인공지능이란 무엇이고 어떻게 구현할 수 있을까요? 2023년 11월 EDPS(유럽 개인정보보호 감독관)는 설명가능한 인공지능에 대하여 이해하기 쉽게 설명하는 자료를 펴냈습니다. 인공지능이 개인정보보호법에서 요구하는 투명성을 준수하기 위해서는 설명가능성이 구현될 필요가 있습니다. 이 자료는 인공지능의 투명성, 해석가능성, 설명가능성의 개념을 설명하고 현재의 기술 수준에서 설명이 가능한 방식(화이트박스)과 불가능한 방식(블랙박스)을 구분하여 소개한 후 인공지능 의사결정에서 여전히 인간의 개입이 중요하다는 사실을 강조하였습니다. 번역: ...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터 미국 NIST 설명가능 인공지능 4가지 원칙 자료: idr.jinbo.net/2062 미국 상무부 산하 국립표준기술연구소(NIST)는 2021년 9월 [설명가능한 인공지능의 4가지 원칙]에 대한 보고서를 펴냈습니다. NIST는 이 보고서에서 설명이 요구되는 분야에 도입되는 인공지능이 보장해야 하는 설명의 요건으로 설명성, 의미성, 설명의 정확성, 지식의 한계성이라는 4가지 원칙을 제시하였습니다. NIST는 이 보고서 외에도 AI 위험관리 프레임워크(AI RMF) 등 인공지능 기술 및 시스템에 대한 신뢰를 구축하기 위한 여러 자료를 발간하였으며, 인공지능 기술에 대한 국제 표준을 주도하고 있습니다. 번역: 정보인권연구소(초벌...

[입법토론회] 국민의 안전, 인권 및 민주주의와 AI의 공존을 위한 AI기본법 제정 방향 ★ 자료집 받기 idr.jinbo.net/2003 ㅇ 일시 : 2024년 7월 11일(목) 10:00 ㅇ 장소 : 국회의원회관 제5간담회실 ㅇ 좌장: 한상희 참여연대 공동대표 ㅇ 발제 인공지능 규범의 국제적 흐름과 시사점 : 오병일 진보네트워크센터 대표 22대 국회 인공지능법 입법방향 : 유승익 한동대학교 교수 ㅇ 토론 더불어민주당 차지호 의원 민주사회를 위한 변호사모임 디지털정보위원회 김병욱 위원 한국인터넷기업협회 정책1실 김영규 실장 과학기술정보통신부 인공지능기반정책과 남철기 과장 개인정보보호위원회 개인정보정책과 김직동 과장 공정거래위원회 시장감시정책과 이준헌 과장 국가인권위원회 인권정책과 이진석 사무관 ㅇ 공...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터 미국 대통령실 OMB AI규칙 초안 idr.jinbo.net/1973 미국 대통령실 관리예산국(OMB)은 2023. 11. 1. [연방기관의 인공지능 사용을 위한 거버넌스, 혁신 및 위험 관리를 개선하기 위한 각서(AI 각서)] 초안을 발표하였습니다. OMB AI 각서(규칙)는 국민의 권리와 안전에 영향을 미치는 인공지능을 정의하고 연방정부 기관들이 사용하는 인공지능에 대하여 위험관리를 요구하였습니다. 이 규칙은 민간에서 조달되는 연방정부 AI들에도 적용될 예정입니다. OMB AI 각서는 2023. 10. 30. 미국 바이든 대통령의 AI 행정명령(Safe, Secure, and Trustworthy Development ...

사단법인 정보인권연구소 세미나 주요국가 인공지능 규제 정책의 주요내용과 시사점 ★ 자료집 받기 idr.jinbo.net/1952 ㅇ 일시 : 2024년 2월 26일(월) 오후4시-6시 ㅇ 장소 : 국가인권위원회 10층 배움터 (서울 중구 삼일대로 340) ㅇ 사회 : 김기중 (정보인권연구소 이사, 법무법인 동서양재 변호사) ㅇ 발제 : 유럽 및 미국의 AI 규제 동향 및 주요 쟁점: 오병일 (정보인권연구소 연구위원, 진보네트워크센터 대표) 인공지능 신뢰성 검증의 중요성과 적용 사례 검토: 이은우 (법무법인 지향 변호사) ㅇ 토론: 송경호 (연세대 정치학과 BK21 박사후연구원) 이현경 (KISDI 지능정보사회정책연구실, 부연구위원) 박소영 (국회입법조사처 입법조사관, 변호사)

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터 인공지능 예측치안 독일 위헌 결정 idr.jinbo.net/1944 2023년 2월 16일(현지 기준) 독일연방헌법재판소는 헤센주 경찰청의 예측치안 시스템에 대하여 위헌으로 결정하였습니다. 이 결정은 인공지능 예측치안에 대한 헌법적 심사일 뿐 아니라 자동화된 데이터 분석 및 평가 시스템에 적용될 수 있는 헌법적 기준을 제시했습니다. 국가가 예측치안을 위해 원래 보유하고 있는 국민의 개인정보를 자동화된 방법으로 추가처리를 할 때 국민의 개인정보자기결정권을 제약하는 강도가 더욱 커집니다. 따라서 개인정보 추가처리에 대해서는 헌법적으로 추가적인 정당화가 필요하며, 목적에 구속되지 않는 경우 목적변경의 원칙을 충족해야 합니다. 최...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터 내데이터 가명처리에 대한 처리정지요구 판결 idr.jinbo.net/1933 공공과 민간 할것없이 인공지능의 활용이 급속도로 늘어나고 있습니다. 그런데 인공지능들이 학습하는 데이터에는 내가 인터넷에 올린 사진, 글은 물론 때로 공공기관에 제출되거나 수집된 민감한 내데이터가 포함되어 있습니다. 문제는 이 데이터를 활용하거나 제3자에게 제공하는 기관이나 기업 대부분이 정보주체에게 동의를 구하거나 심지어 통지조차 하지 않는다는 것입니다. 실명정보가 아닌 가명정보라는 이유에서입니다. 그러나 정보주체가 내데이터에 대해 자기 권리를 주장할 방법이 전혀 없다면 헌법에서 보호하는 개인정보자기결정권이 형해화될 수밖에 없습니다. 다행히 20...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터 유럽연합 인공지능법안③ 2023 합의안 주요내용 idr.jinbo.net/1926 유럽연합은 지난 2023년 12월 8일(현지시각) 세계 최초로 고위험 인공지능을 포괄적으로 규제하는 ‘인공지능법안’(AI Act)에 대해 합의하였습니다. 이 법은 유럽연합 역내에서 활용되는 인공지능에 적용되지만, 상품과 서비스가 전 세계 각국을 넘나드는 현실을 고려할 때 한국을 비롯한 각국의 업체와 규범 형성에 영향을 미칠 것으로 예상됩니다. 이에 사단법인 정보인권연구소와 진보네트워크센터는 이 법안에 대한 이해를 돕기 위해 합의안의 주요 내용과 그 함의에 대한 분석 문서를 작성하였습니다. 국내에서 인공지능 규율을 위한 법제 마련과 토론에 도움...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터XAPC 생성형 AI로 인한 소비자 피해에 대한 대응 idr.jinbo.net/1912 노르웨이 소비자위원회(Norwegian Consumer Council, 1953년 설치된 독립적인 소비자보호 국가기관)는 2023년 6월 생성형 인공지능의 소비자 문제를 다룬 "기계 속의 환영 (Ghost in the machine)"을 펴냈습니다. 이 보고서는 소비자를 위하여 생성형 AI의 개요로부터 소비자에게 발생할 수 있는 피해와 이를 해결할 수 있는 규제 방안에 이르기까지 방대한 주제를 비교적 쉽게 설명하고 있습니다. 번역: 정보인권연구소 (초벌번역은 기계번역의 도움을 받았습니다. 일부 각주 제외) 발제: 허유경 (소비자시민모임 이...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터XAPC 생성형 AI에 관한 헐리우드 단체협약 idr.jinbo.net/1902 생성형 인공지능의 기능은 경이롭기도 하지만 다른 한편으로 일하는 사람들의 노동권에 위협적인 영향을 미치고 있습니다. 2023년 미국 할리우드에서도 인공지능이 뜨거운 감자였습니다. 감독조합, 작가조합, 배우조합이 단체교섭에서 인공지능 활용을 제한하거나 인공지능 활용으로 인해 노동권이 침해되지 않도록 보장할 것을 요구하고 나섰습니다. 이 문제는 OTT 환경에 따른 노동조건 변화와 함께 이번 교섭에서 가장 중요한 이슈였습니다. 특히 작가조합과 배우조합은 63년 만에 동반 파업을 전개하기도 했습니다. 오랜 투쟁 끝에 이들의 교섭은 성공적으로 마무리되었고...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터XAPC 유럽연합 인공지능법안② 쟁점과 의견 feat.유럽의회 idr.jinbo.net/1815 정보인권연구소는 세계가 주목하는 유럽연합 인공지능법안을 3차에 걸쳐 소개하고 있습니다. 그 두번째로 인공지능법안의 쟁점과 의견을 살펴봅니다. 금지되는 인공지능, 고위험 인공지능 등에 대하여 전세계 시민사회와 유럽 개인정보보호기관 EDPB-EDPS가 다양한 의견을 제출하였고 유럽의회는 2023. 6. 14. 통과시킨 의회안에서 그 일부를 수용하였습니다. 발제: 오병일 (진보네트워크센터)

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터XAPC 유럽연합 인공지능법안① 2021. 4. 집행위원회 초안 idr.jinbo.net/1815 최근 유럽이나 미국 등 주요 국가는 인공지능을 어떻게 규율할 것인지 제도 마련에 박차를 가하고 있습니다. 유럽연합은 2021년 4월에 집행위원회가 인공지능법안 초안을 제안한 이래 2023년 6월 유럽 의회가 수정안을 통과시켰고 현재 집행위원회-의회-이사회 3자가 협상 중입니다. 빠르면 2023년 연내 제정이 될 것으로 관측되고 있습니다. 유럽연합 인공지능법안은 ‘위험기반 접근법’으로 금지되는 인공지능, 고위험 인공지능, 저위험 인공지능 등 위험도에 따라 규제하는 한편, 위험영향평가, 데이터영향평가 등 여러 영향평가 의무를 부과했...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터XAPC 카카오택시 알고리즘 콜몰아주기 결정문 idr.jinbo.net/1790 국민택시앱이나 다름없는 카카오택시는 그간 가맹택시와 비가맹택시를 차별하고 있다는 의혹을 부인해 왔습니다. 그러나 공정거래위원회는 카카오택시가 알고리즘으로 가맹택시에게 콜을 몰아주었다는 사실을 밝혀내고 과징금 257억 원을 부과하였습니다. 카카오택시 애플리케이션을 운영하는 회사 카카오모빌리티는 공정위 결정에 불복하여 행정소송을 제기하였습니다. 2023년 6월 공개된 공정위 결정문에는 카카오택시가 위법적으로 알고리즘을 이용하여 비가맹택시를 차별한 방법을 상세하게 설명하고 있습니다. 카카오택시 알고리즘이 어떻게 시장지배력을 남용하는 힘이 되었는지 공정...

자료같이읽어요 | 인공지능과 정보인권 세미나 by 정보인권연구소X진보네트워크센터XAPC 영국 공무원을 위한 AI 비스킷북 idr.jinbo.net/1759 2019년 영국 국방과학기술연구소(Defense Science and Technology Laboratory, dstl)는 AI, 데이터 과학, 기계학습을 쉽게 설명하는 비스킷북을 발간하였습니다. 영국 정부는 인공지능 공공조달지침을 마련하면서 영국 공무원들에게 이 비스킷북을 일독할 것을 권장하고 있습니다. 정확하면서도 비교적 쉽게 인공지능의 개념을 설명한 이 책자를 번역하여 소개합니다. 번역: 정보인권연구소(초벌번역은 기계번역의 도움을 받았습니다.) 발제: 장여경 (정보인권연구소 상임이사)

(자막) 네이버쇼핑 알고리즘 조작사건 결정문 | 자료같이읽어요★인공지능과 정보인권 세미나

(자막) 미국 CAIDP의 챗GPT 진정서 | 자료같이읽어요★인공지능과 정보인권 세미나

(자막) 인공지능과 빅테크 인권영향평가 현황과 과제 | 오병일 연구위원

(자막) 데이터 경제, 정보인권의 갈림길 | 이은우 변호사

(자막) 인공지능 개발과 활용에 관한 인권 가이드라인의 의의와 과제 | 김기중 변호사

유럽연합 디지털서비스법 패키지, 어떤 내용인가

왜 미국은 가장 강력한 빅테크 규제 추진 국가 중 하나가 되었나?

페이스북에서 메타플랫폼으로

영상정보와 얼굴인식기술 5편 - 신기술 환경과 인권운동 강좌

영상정보와 얼굴인식기술 4편 - 신기술 환경과 인권운동 강좌

영상정보와 얼굴인식기술 3편 - 신기술 환경과 인권운동 강좌

영상정보와 얼굴인식기술 2편 - 신기술 환경과 인권운동 강좌

영상정보와 얼굴인식기술 1편 - 신기술 환경과 인권운동 강좌

인공지능(AI)의 의사결정과 인권 6편 - 신기술 환경과 인권운동 강좌

인공지능(AI)의 의사결정과 인권 5편 - 신기술 환경과 인권운동 강좌