AI 범죄와 자기 방어(인공지능총서)

AI 기반 피싱, 딥페이크, 자금 세탁 등 진화하는 범죄의 실체를 파헤친다. 범죄자의 계산법을 분석하고 개인 맞춤형 방어 전략을 제시하며, 사회적 대응까지 아우르는 실천적 지침서다.인공지능총서. aiseries.oopy.io에서 필요한 인공지능 지식을 찾을 수 있다.

[목 차]

악용되는 AI와 사이버 범죄

01 AI 범죄, 새로운 디지털 위험의 시대

02 범죄자의 경제학

03 진짜인 듯 가짜인 세상, 딥페이크의 위협

04 완벽한 사기꾼, AI가 바꾸는 피싱과 사회공학의 세계

05 끊임없는 진화, AI 기반 자동화 공격의 세계

06 AI 감시와 프라이버시의 위기

07 AI와 금융 범죄

08 나만의 디지털 방패 만들기

09 함께 만드는 안전한 AI 사회

10 미래를 준비하는 디지털 생존 전략

[본 문]

대화형 자동 범죄는 인공지능이 사람처럼 자연스럽게 대화하고, 맞춤형 메시지나 콘텐츠를 자동으로 생성해 범죄 목적을 수행하는 신종 디지털 범죄 형태를 말한다(TRM; King et al., 2020). 단순한 스팸이나 피싱을 넘어, AI가 실시간 대화를 통해 피해자의 감정을 조작하고 신뢰를 유도하며 민감 정보를 추출한다. 이는 단순한 기술의 활용이 아니라, AI가 범죄의 도구이자 실행자가 되는 구조적 전환을 의미한다.

－01_“AI 범죄, 새로운 디지털 위험의 시대” 중에서

딥페이크 기술이 이런 심리적 조작과 결합하면서, 단순한 사기가 아니라 철저히 기획된 범죄가 된다. 목소리는 신뢰의 상징이었지만, 이제는 조작 가능한 데이터가 되었다. 진짜와 너무도 똑같은 음성 앞에서 사람들은 스스로의 감각을 의심하게 된다.

－03_“진짜인 듯 가짜인 세상, 딥페이크의 위협” 중에서

이러한 편리함 뒤에는 방대한 개인정보 수집이라는 그림자가 존재한다. 무료로 제공되는 대부분의 디지털 서비스는 사용자 정보를 기반으로 수익을 창출하며, 구글, 페이스북, 아마존 등의 기업은 검색 기록, 소셜 미디어 활동, 소비 내역 등을 종합해 정교한 개인 프로파일을 만든다. 문제는 이 정보들이 사용자의 명확한 동의 없이 수집되거나, 수집 목적과 다르게 활용된다는 데 있다. 복잡한 동의 절차는 사실상 형식적이며, 코로나19나 의료 정보처럼 민감한 데이터가 다른 목적으로 전용되는 사례도 지속적으로 나타나고 있다.

－06_“AI 감시와 프라이버시의 위기” 중에서

AI 범죄의 가장 심각한 특징 중 하나는 그 피해가 개별적으로 그치지 않고, 사회 전체로 확산되는 ‘외부성(Externality)’을 가진다는 점이다. 경제학에서 외부성이란 어떤 사람의 경제 활동이 그 경제 활동에 참여하지 않는 제3자에게 예상치 못한 이익이나 피해를 주지만, 그에 대한 보상이나 대가가 이뤄지지 않는 현상을 뜻한다.

－09_“함께 만드는 안전한 AI 사회” 중에서