시민사회 생성형 AI 가이드 워크숍
- 주최: 디지털정의네트워크, 빠띠, 정보인권연구소, 참여연대
- 2025.12.18 16:00-18:00 @참여연대 아름누리홀
밑줄긋기
- ‘어떻게 사용해야하는지?’ ‘사용해도 되는지?‘에 대한 질문
생성형 AI 기본 개념 & 위험요소
빠띠 고아침
- 비판적 검토 필요
AI
- 모호한 개념
- why? 무어라고 정의하는게 애매한가?
- 수학함수! not 기계뇌
- 데이터 패턴을 읽어낸 결과 - 통계모형
- ‘담다디 - 이상은’ 노래로 텍스트 모델 (markov-text chain)설명
- 출력은 확률에 기반
윤리 이슈
- 데이터 레이블링
- AI 기술 도입으로 노동권 약화
- 학습 데이터 저작권, 창작 노동
- 생성된 저작물에 대한 공정이용이 가능한가?
- 환경 비용
- 희토류 채굴, 전자폐기물, 냉각수
- 파악 자체가 어려움 → 투명성
- 차별, 편향
- 딥페이크, 젠더 관련 불평등
- 정보 생태계
- 허위정보 생산 - 사실 검증 비용 증가
- 보안, 프라이버시
- 최대한 많은 데이터 수집 추구 - 적법성
- 웹서비스 → OS 내장, 피지컬(안경)…
실체적 이해를 바탕으로 사회적 맥락에 맞게 활용하는게 중요
시민사회 생성형 AI 정책 모델
디지털정의네트워크 오병일 대표
- 단체에서 성명서를 작성할때 GPT/Gemini를 활용한다면?
- 단체 내에서 충분한 토론 → 정책 수립 필요
- AI 투명성
- 거의 대부분의 모든 서비스에 AI가 내장되어있음
- 어디에 AI를 활용했다고 표기해야할까?
정책 모델
- 개인정보처리방침과 같은 역할
- 교차검증의 중요성
- 요약, 번역 … 의 작업물에 대한 정확도 검증
- 편향, 고정관념에 대한 비판적 검토
- 이걸 할 역량이 있는가가 중요 ⇒ 활용 역량
활용 지침
“내 데이터가 학습 가능하다” 라는 걸 전제
- 개인정보보호 및 보안
토론 발제 : 각 단체에서의 고민
성폭력상담센터 호랑
- 젠더편향에 대한 문제보다는 현실을 제대로 반영하지 못한 내용에서 생기는 문제가 더 많음
- The Safety Net Survivor’s Guide to Artificial Intelligence(AI)
- 거짓된 안심과 도움 지연
- GPT는 해주는데 왜 상담사님은 안해주세요?
- AI에 대한 정서적 의존
- 무조건적인 지지
- 경험의 멸종 - 크리스틴 로젠
- 증거조작으로 활용되는 AI
민주노총 보리
- 언론노조 AI
인권재단 사람 김경희
- 인력난에 대한 활용
- 기초자료조사, 통계분석, …
- 거리홈리스에게 AI 개발은 어떤 의미가 있을까?
- 거리에 AI 시스템 설치?
- 거짓 생성형 AI 영상으로 폭행사건 발생
- 수급자격 선정 자동화
- 수급자격 기준, 관련 정책을 제대로 구축하는게 우선
- 판단역량을 갖추는게 매우 중요하다
- 기본 소양도 중요하지만, 개발 과정에 대한 고민도 필요한것 아닌가
- 2022년 혐오표현 관련 대국민 인식조사-문화체육관광부
- 플랫폼 사업자의 문제
- AI활용 표기에 대한 실효성? 이용자, 시민에게 어떤 의미가 있나?
- 홈플러스가 보험사에 개인정보를 팔고나서 개인정보처리방침에 1mm 크기의 안내문구를 넣어두고 내용 고지했다고 한 사례
녹색연합 박은정
- 에너지정책 : 수도권 - 지방 전력공급 이슈
- 정의로운 전환
- 지역활동가의 AI 활용 저항감
- 팩트체크
정보인권연구소 정여경
- 찾아가는 과정이라 목소리를 더 키워가야한다고 생각함
- 미국 활동가가 앞으로 AI 관련 주시해야한다고 제시한 3가지 주요 쟁점
- 데이터 - 데이터가 어디에서 왔고, 어디로 가는지(추출, 수탈)
- 노동 문제 - AI를 작동하기 위해 어떤 노동이 필요했는가
- 환경 문제
의문갖기
- 데이터
- 결국 데이터가 중요!!
- 어떤 데이터를 어떻게 다뤄야할지
- 정책모델 내용이 개인정보처리방침과 같은 맥락이라면,
- 핵심내용을 제외하면 읽을 가능성이 적은게 아닐까?
- 실제 의미있는 효과를 만들려면 어떤 액션이 필요할까?
- AI 활용 교육
- 결국 활용하는 사람의 역량이 중요
- AI를 활용했다 = 할루시네이션 여지가 있다?
- 딥페이크 정의
- 법 제도 개선
- 한국 인공지능 법
- EU AI 법 : 설계단계부터 고민
- 진실성 / 투명성
- 입증하는게 앞으로의 큰 문제가 되지 않을까?