AI 상담 챗봇이라는 사실, 이용자에게 알려야 하나요?
생성형 인공지능이나 고영향 인공지능으로 움직이는 상담 챗봇이라면 알려야 합니다. 2026년 1월 22일 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법) 제31조는 이런 서비스가 인공지능에 기반해 운용된다는 사실을 이용자에게 사전에 고지하도록 하고, 고지하지 않으면 3천만 원 이하의 과태료를 부과합니다. 유럽연합의 AI Act 제50조도 사람과 직접 대화하는 AI 시스템은 상대가 AI라는 사실을 알 수 있게 설계하도록 요구합니다.
AI 기본법의 투명성 확보 의무는 무엇을 요구하나요?
제31조 제1항은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스를 제공하려는 경우 그 사실을 이용자에게 미리 알리도록 합니다. 제2항은 생성형 인공지능의 결과물에 생성형 인공지능이 만들었다는 사실을 표시하도록 하고, 제3항은 실제와 구분하기 어려운 가상의 음향·이미지·영상을 제공할 때 이용자가 명확하게 인식할 수 있게 고지하거나 표시하도록 합니다. 제43조는 제1항의 고지를 이행하지 않은 자에게 3천만 원 이하의 과태료를 정하고, 과학기술정보통신부장관이 이를 부과·징수합니다. 제정 부칙은 이 법을 공포 후 1년이 지난 날부터 시행하도록 했고, 법은 2025년 1월 21일 제정되어 2026년 1월 22일부터 시행되었습니다.
어떤 챗봇이 AI 고지 의무 대상인가요?
제2조는 인공지능사업자를 인공지능을 개발해 제공하는 개발사업자와, 그 인공지능을 이용해 제품·서비스를 제공하는 이용사업자로 나누고 법인·단체·개인·국가기관등을 모두 포함합니다. 외부 언어모델을 들여와 상담 챗봇을 운영하는 기업이나 공공기관도 이용사업자에 해당할 수 있습니다. 생성형 인공지능은 입력 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 등을 만들어 내는 시스템을 말합니다. 정해진 시나리오대로만 답하는 규칙 기반 챗봇이 이 정의와 고영향 인공지능 영역에 모두 해당하지 않는다면 제31조 제1항의 대상이 아닐 수 있으니, 사용하는 기술을 먼저 확인해 보세요.
AI 챗봇임을 알리는 방법은 어떻게 정해져 있나요?
시행령 제23조는 사전 고지와 결과물 표시의 방법, 적용 예외를 정합니다. 고지나 표시는 이용자가 시각·청각이나 소프트웨어로 쉽게 확인할 수 있어야 하고, 주된 이용자의 나이와 신체적·사회적 조건을 고려해야 합니다.
AI 기본법 시행령 제23조의 고지 방법과 예외
| 항목 | 내용 |
|---|---|
| 사전 고지 방법 | 제품에 직접 기재하거나 계약서·사용 설명서·이용약관에 기재, 이용자 화면·단말기에 표시, 제공 장소에 게시, 장관이 인정하는 방법 중 하나 |
| 결과물 표시 방법 | 사람이 인식할 수 있는 방법, 또는 기계가 판독할 수 있는 방법과 1회 이상의 안내 문구·음성 |
| 적용 예외 | 서비스명이나 화면 문구로 AI 활용이 명백한 경우, 내부 업무 용도로만 쓰는 경우, 장관이 고시하는 경우 |
EU AI Act 제50조는 챗봇에 무엇을 요구하나요?
EUR-Lex에 게재된 Regulation (EU) 2024/1689 제50조 제1항은 사람과 직접 상호작용하도록 만든 AI 시스템의 제공자가, 이용자가 AI와 대화하고 있음을 알 수 있도록 시스템을 설계·개발하게 합니다. 합리적으로 정보를 갖추고 주의 깊은 사람이 보기에 상황상 명백한 경우와, 법률에 따라 범죄 수사 등에 쓰이는 시스템은 예외입니다. 제5항은 이 정보를 늦어도 첫 상호작용이나 노출 시점에 명확하고 구별되는 방식으로 제공하고, 적용되는 접근성 요건을 지키도록 합니다. 제2항은 합성 음성·이미지·영상·텍스트를 만드는 AI 시스템의 제공자에게 결과물을 기계가 읽을 수 있는 형식으로 표시해 인공적으로 생성되었음을 감지할 수 있게 하도록 요구합니다. 제50조를 위반하면 제99조에 따라 최대 1,500만 유로 또는 전 세계 연간 매출액의 3% 중 높은 금액의 행정 제재금 대상이 되며, 스타트업을 포함한 중소기업은 둘 중 낮은 금액이 상한입니다. 관보 원문의 제113조에 따르면 이 규정은 2026년 8월 2일부터 적용되므로, 이후 개정 여부는 EUR-Lex에서 함께 확인해 보세요.
한국과 EU의 AI 챗봇 고지 규정은 어떻게 다른가요?
AI 기본법과 EU AI Act의 챗봇 고지 규정 비교
| 구분 | AI 기본법(한국) | EU AI Act |
|---|---|---|
| 의무 대상 | 고영향·생성형 AI를 이용한 제품·서비스를 제공하는 인공지능사업자 | 사람과 직접 상호작용하는 AI 시스템의 제공자 |
| 알리는 시점 | 사전에 고지 | 늦어도 첫 상호작용 시점 |
| 명백한 경우 | 시행령상 예외 가능 | 예외 |
| 시행·적용일 | 2026년 1월 22일 | 2026년 8월 2일 |
| 제재 | 고지 불이행 시 3천만 원 이하 과태료 | 최대 1,500만 유로 또는 전 세계 연간 매출액의 3% 중 높은 금액(제99조) |
한국서비스연구소는 AI 챗봇 고지를 어떻게 보나요?
한국서비스연구소는 2024년 8월부터 AI·자동화 서비스 연구를 시작해 자동응답과 직원 지원의 역할, 그 사이의 전환 과정을 분석하고 있습니다. 디지털·대면 서비스 연계 연구에서는 자동화와 직원 지원의 역할 설계, 채널을 옮길 때 생기는 불편, 디지털 이용이 어려운 사람의 대체 경로를 함께 검토합니다. 고지 문구 하나로 끝내기보다, 이용자가 상담원 연결을 원할 때 넘어갈 경로가 있는지까지 보는 것이 연구 분야의 연결성 관점입니다.
챗봇이 민원 접수를 안내한다면 민원 처리기간은 며칠이고, 어떻게 계산하나요?의 기준을, 챗봇 대화가 신청서 입력으로 이어진다면 온라인 신청서 입력 오류, 어떻게 줄일 수 있나요?의 입력 도움 기준을 함께 확인해 보세요.
AI 챗봇 고지 자주 묻는 질문
이용약관에만 AI 사용을 적어도 되나요?
시행령 제23조는 이용약관 기재도 고지 방법의 하나로 인정하지만, EU AI Act는 늦어도 첫 상호작용 시점에 명확하게 알리도록 합니다.
챗봇 이름에 "AI"가 들어가 있으면 따로 알리지 않아도 되나요?
서비스명이나 화면 문구로 AI 활용이 명백하면 시행령 제23조 제4항에 따라 고지 규정의 전부 또는 일부를 적용하지 않을 수 있습니다.
AI 고지를 하지 않으면 어떤 제재가 있나요?
AI 기본법 제43조에 따라 제31조 제1항의 고지를 이행하지 않으면 3천만 원 이하의 과태료가 부과됩니다.
직원 교육용으로만 쓰는 사내 챗봇도 고지해야 하나요?
시행령 제23조 제4항은 인공지능사업자의 내부 업무 용도로만 쓰는 경우를 적용 예외로 둘 수 있게 합니다.
출처
- 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조(인공지능 투명성 확보 의무)」, 2026. 1. 22. 시행. https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법/제31조
- 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제43조(과태료)」, 2026. 1. 22. 시행. https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법/제43조
- 국가법령정보센터, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 제23조(인공지능 투명성 확보 의무)」, 2026. 8. 20. 시행. https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법시행령/제23조
- EUR-Lex, 「Regulation (EU) 2024/1689 (Artificial Intelligence Act)」 Article 50, 99, 113, 2024. 6. 13. https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=OJ:L_202401689