AI와 기관생명윤리위원회IRB(AI문고)

AI가 연구 과정에 개입하는 시대의 연구 윤리를 묻는다. 문헌 탐색, 자료 분석, 글쓰기까지 AI와 함께 수행되는 연구는 더 이상 고정된 계획으로 설명되지 않는다. 데이터 처리, 알고리즘 편향, 설명 가능성, 책임 귀속까지 IRB의 검토 대상이 확장되어야 한다. 사전 심의 중심의 IRB를 연구 전 과정의 윤리적 거버넌스로 바꾸어야 한다고 말한다. AI문고. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]
  

인간-AI 협업의 윤리와 미학

01 AI 등장과 새로운 연구 환경

02 기존 연구 윤리와 IRB 제도의 형성

03 인간-AI 협업과 위치성

04 인간-AI 협업의 실제

05 인간-AI 협업 연구의 저자성

06 인간-AI 협업 연구의 생명윤리

07 인간-AI 협업 연구의 데이터 보호

08 인간-AI 협업 연구의 윤리 쟁점

09 인간-AI 협업 연구의 IRB 심의 기준

10 AI 시대 IRB 제도 변화와 전망

[본 문]
  

AI 기술은 파르마콘(pharmakon)이다. 기술은 인간의 능력을 증강시키는 동시에 인간성을 잠식하는 양면성을 지니는 약이면서 독이다. AI는 지식 접근성을 높여 학문의 민주화를 촉진하지만 동시에 심리적 박탈감과 불완전한 지식 유통을 초래한다. ChatGPT, Perplexity 등의 AI 도구는 누구나 방대한 문헌을 빠르게 요약하고 생성할 수 있게 해 연구 진입 장벽을 낮춘다. 이로 인해 개발도상국 연구자나 초기 경력 연구자에게 지식 확장의 기회를 확대한다. 그러나 AI 생성 콘텐츠의 범람은 “내 지식이 진짜인가”라는 학자적 정체성 위기에 직면한다. 더불어 AI 생성 논문의 무단 제출, 데이터 오염, 편향 증폭, 사고의 외주화 등의 문제가 발생한다. 이러한 현상은 불완전한 지식 유통을 초래하며, 장기적으로 학계의 신뢰성과 다양성을 위협한다.

－01_“AI 등장과 새로운 연구 환경” 중에서

AI는 인간의 의도를 수행하는 수단으로 호출되지만, 그 수행 과정에서 예상하지 못한 연결과 결과를 생성하며 연구의 방향에 실질적으로 개입한다. AI는 수동적 도구로 머무르지 않으며, 그렇다고 독립적 주체로 완전히 자율화되지도 않는다. ANT의 관점에서 보면, 연구는 인간이 단독으로 하는 활동이 아니다. 다양한 행위자들이 얽히고 번역되는 네트워크 속에서 형성된다. 여기서 행위자는 인간에 한정되지 않는다. 텍스트, 데이터, 연구 일지, 알고리즘, 인터페이스, 그리고 AI 역시 모두 행위자로서 연구 과정에 참여한다. 이 행위자들은 서로를 거치며 끊임없이 변형되고 이동하는 ‘순환하는 지시체(circulating reference)’의 흐름 속에 놓인다.

－03_“인간-AI 협업과 위치성” 중에서

전통적 생명윤리는 인간을 중심으로 자율성, 선행, 정의와 같은 규범을 설정해 왔고, ANT는 이러한 인간 중심 구도를 해체하여 비인간 요소를 행위자로 포함시키며 윤리적 결과를 네트워크의 산물로 이해하도록 확장하였다. 그러나 포스트 ANT의 관점은 여기에서 한 걸음 더 나아가 그 결과가 어떠한 방식으로 ‘현실로 성립되는가’에 주목한다. 즉, 포스트 ANT는 책임의 분산이나 행위자의 확장 자체보다, 특정한 결과가 하나의 사실로 안정화되는 과정, 다시 말해 다양한 가능성 중 어떤 해석과 실천이 선택되어 하나의 현실로 굳어지는 과정을 문제화한다.

－06_“인간-AI 협업 연구의 생명윤리” 중에서

IRB의 서식만큼 심의 절차도 중요하다. 인간-AI 협업 연구는 연구가 진행되는 동안에도 AI 도구의 버전이 갱신되고 AI 사업자의 정책이 변경될 수 있다. 이 점에서, 한 번의 심의로 판단하던 기존 IRB는 한계가 있다. 따라서 다음과 같은 절차의 보완이 필요하다. 첫째, 자료의 민감도와 AI 개입 수준에 따른 심의 종류의 결정이다. 자료의 민감도와 AI 개입의 수준을 결합한 매트릭스를 운영할 수 있다. 예를 들어 ① 일반적인 공개 자료를 자체 AI 호스팅 모델로 분석하는 경우는 심의 면제 또는 신속 심의 ② 개인 경험 자료를 외부 상업용 AI로 분석하는 경우는 신속 심의 또는 정규 심의 ③ 고위험 자료를 외부 AI에 입력하는 경우는 정규 심의와 강화된 데이터 보호 절차를 함께 적용하는 방식이다. 이러한 비례적 분류는 IRB의 심의 종류를 자료의 민감도에 비례하여 효율적으로 배분할 수 있다.

－09_“인간-AI 협업 연구의 IRB 심의 기준” 중에서