로식가 여러분, 안녕하세요! 올리입니다.

본격적으로 시작하기 전에 깜짝 퀴즈! 제가 좋아하는 과일은 무엇일까요? 3… 2… 1…

정답은 이전 레터에서도 말씀드렸듯 🍉수박인데요. 수박이 제일 맛있는 계절! 여름이 얼른 됐으면 좋겠다고 생각하면서 레터를 작성하고 있답니다.

로식가분들도 로스규이 읽으시면서 함께 겨울을 나볼 수 있으면 좋겠습니다. 🥰

온 세상이 AI다

요즘 AI 안 쓰는 곳 없으시죠? 창업 씬에서도 이제는 AI를 사용하지 않는 창업이 거의 없을 정도로 AI는 두루두루 사용되고 있습니다.

하지만 올해 1월 인공지능기본법이 시행되며 업계가 술렁였는데요. '세계 최초'로 전면 시행되는 인공지능기본법은 📰적용 기준과 절차가 불명확하다는 우려가 있었고, 📰기업들도 제대로 파악하지 못해 혼란이 더욱 가중되었던 것 같아요.

가장 논란이 된 부분은 ‘인공지능 투명성 확보 의무(인공지능 표시 의무)' 였지 않나 싶습니다. 법 시행 이후 과기부에서 운영하는 인공지능기본법 지원데스크에는 📰’인공지능 투명성 확보’ 의무 관련 문의가 전체 문의의 56.4%를 차지하기도 했습니다.

결국 현장에서 중요한 것은 ‘나도 해당할까?’입니다. AI 제품 및 서비스를 제공하는 국내외 사업자에 내가 해당하는지, 그렇다면 어떻게 표시할 것인지가 주요 쟁점이 되는 것이죠.

오늘 레터에서는 인공지능기본법에서 투명성 확보 의무 적용 대상이 누구인지 한번 짚어보고, 실무에서 인공지능 표시 의무를 어떻게 준수하고 있는지 알아보려고 해요. 준비 되셨나요? 올리만 따라오세요!🍉

또한 과학기술정보통신부는 실제 적용 과정에 나타날 혼란을 줄이기 위해 최소 1년 이상 규제를 유예하고, 산업계·학계·시민단체의 의견을 지속 청취해 개선 사항을 발굴해 나갈 예정이라고 밝혔어요.

그렇다면 인공지능기본법에서 투명성 확보 의무가 실제로 누구에게 적용되는지 살펴볼까요? 우선 기본법에서 언급하는 ✅인공지능사업자, ✅이용자가 누구인지 확인해 봐요.

🙋인공지능사업자

인공지능사업자는 인공지능과 관련된 제품이나 서비스를 만드는 사람·기업부터, 이를 활용해 서비스를 제공하는 사업자까지 모두 포함하는 개념입니다. 해외 사업자라고 하더라도 국내 시장 또는 이용자에게 영향을 미치는 경우에는 기본법이 적용되어요.

인공지능사업자는 다시 인공지능개발사업자와 인공지능이용사업자로 나눌 수 있어요.

인공지능개발사업자는 인공지능을 직접 개발하거나, 성능에 큰 영향을 미칠 정도로 인공지능을 수정·개량해 제공하는 사업자를 말합니다. 여기에는 유료 제공뿐 아니라 무상 제공도 모두 포함돼요.

인공지능이용사업자는 개발된 인공지능을 이용해 제품이나 서비스를 제공하는 사업자입니다. AI를 직접 개발하지 않더라도, 다른 사업자가 만든 AI를 기반으로 기능을 수행하는 제품·서비스를 고객에게 제공한다면 여기에 해당해요.

🙋이용자

이용자는 인공지능 제품이나 서비스를 제공받아 사용하는 사람 또는 기업을 의미합니다.

투명성 확보 의무의 핵심은 이용자가 지금 사용하는 결과물이 인공지능이 생성한 것인지를 명확히 알 수 있도록 하는 데 있어요.

따라서 이용자에게는 별도의 표시 의무가 없습니다. 즉, AI 기반 제품·서비스를 이용해 나온 결과물을 자신의 서비스나 업무에 활용하더라도, 이용자 입장에서는 이를 따로 표시할 필요가 없어요.

제공하는 사람 VS 제공받는 사람

조금 더 쉽게 이해할 수 있도록, 사업자와 이용자의 관계를 과기부에서 언급한 예시를 이용해서 설명해 볼게요.

최근 영화 산업에서는 AI 기반 디에이징 기술을 활용해 아역 배우 없이도 성인 배우의 모습을 자연스럽게 젊게 만드는 사례가 늘고 있습니다. 2022년 공개된 드라마 '카지노'에서 AI를 활용해 최민식 배우의 30대 모습을 구현한 얼굴, 목소리가 화제가 됐었죠. 

자, 이제 누가 투명성 확보 의무를 갖는지 이해하셨죠? 인공지능사업자에 해당하는 로식가분들이라면 자연스럽게 “그럼 실제로 AI 표시는 어떻게 해야 하지?”가 가장 궁금하실 텐데요.

인공지능사업자에게 부여되는 투명성 확보 의무는 ✅사전 고지 의무와 ✅표시 의무 두 가지로 나뉩니다.

📢 사전 고지 의무

인공지능사업자가 고영향 AI나 생성형 AI 기반 제품·서비스를 제공하려는 경우, AI가 쓰였다는 사실을 이용자가 서비스 사용 전에 알 수 있도록 알려야 합니다.*

고지는 제품이나 문서(약관·설명서), 화면 표시, 또는 제공 장소 내 안내문 등 다양한 방식이 허용돼요.**

* 인공지능기본법 제31조 제1항

** 인공지능기본법 제31조 제1항, 동법 시행령 제23조 제1항

✏️ 표시 의무

생성형 AI를 활용해 결과물을 만들어 제공하는 경우, 해당 결과물이 AI에 의해 생성되었다는 사실을 명확히 표시해야 합니다.*

표시는 사람이 읽을 수 있는 방식 또는 기계가 인식할 수 있는 방식 모두 가능하지만, 기계판독 방식을 사용할 때는 최소 1회 이상 안내 문구나 음성을 제공해야 해요.**

*인공지능기본법 제31조 제2항

** 인공지능기본법 제31조 제2항, 동법 시행령 제23조 제2항

또한 표시 방식은 결과물이 제공되는 경로에 따라 달라집니다. 서비스 화면·UI 안에서 이용자에게 직접 제공하는 경우에는 서비스 내에서 표시하면 되고, 다운로드나 공유처럼 결과물이 외부로 전달되는 경우에는 유형에 따른 표시방법을 활용해 결과물 자체에 표시가 들어가야 해요.

실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 딥페이크 생성물은 별도의 표시 기준이 적용*됩니다. 더욱 자세한 내용은 생성형 인공지능 투명성 확보 가이드라인에서 확인해 볼 수 있어요.

*인공지능기본법 제31조 제3항, 동법 시행령 제23조 제3항

이정표가 되는 AI 표시 사례

이제 인공지능 표시 의무가 실제로 어떻게 적용되는지 대표적인 사례를 통해서 확인해 볼게요. 서비스 유형별로 조금씩 다르지만, 공통적으로 이 기능이 AI로 만들어진 것임을 명확히 인식할 수 있게 하는 점이 핵심입니다.

💬대화 기반 서비스

대화형 AI 서비스에서는 서비스 화면에 AI 활용 사실을 표시하는 방식이 사용되고 있어요. 예를 들어 Adobe Firefly에 접속하면 ‘나의 AI 기반 창작 공간’이라는 문구를 통해 사용자가 AI 기반 서비스임을 쉽게 인식할 수 있습니다.

🎮게임

게임에서는 AI가 사용된다는 안내 문구를 삽입하는 경우가 있어요. 로스트아크 모바일에서는 캐릭터 염색 프리셋을 AI로 생성할 때 ‘AI 생성 중’이라는 문구가 나타납니다.

🖼️이미지·동영상 생성물

가장 보편적으로 떠올릴 수 있는 사례일 것 같아요. 예컨대 Gemini는 이미지를 생성하면 오른쪽 아래에 워터마크가 삽입되고, Sora AI에서는 생성된 영상에 주기적으로 깜빡이면서 워터마크가 표시됩니다.

AI 공부 많이 된다, 자기 전에 생각날 거야😎

인공지능기본법과 인공지능 표시 의무가 처음에는 복잡하고 부담스럽게 느껴졌을 수 있지만, 차근차근 살펴보면 생각보다 쉽게 정리할 수 있답니다.

지금 스타트업에게 필요한 건 혼란스러운 분위기에 당황해하기보다 내가 인공지능사업자에 해당하는지 확인하고 필요한 부분을 정확히 대응하는 것이에요.

또한 인공지능기본법 시행과 함께 스타트업·중소기업을 위한 지원이 어떻게 마련될지도 앞으로 계속 살펴볼 만한 지점이니 함께 지켜보면 좋겠습니다.

다음 올리의 인공지능기본법 2탄 레터에서는 ‘AI 이용자 입장에서 생길 수 있는 질문’과 ‘국내외 법제 동향’을 이어서 다뤄보려고 합니다. 그때까지 오늘 레터 복습하면서 기다려 주세요.

그럼 다음에 만나요. 안녕!

이번 로스규이 주제 선정에

'경북대학교 법학전문대학원 스타트업 법률지원단

SHERPA' 학생들이 도움을 줬어요.

🌱오늘 레터를 만든 예비법조인