© Unsplash

챗GPT 논란, AI 규제 추진?

OWEN

이슈 한입2023-04-14

🔎 핵심만 콕콕

챗GPT 열풍 속 개인정보 노출, 저작권 침해·악용 등의 문제가 수면 위로 드러나고 있습니다.
이에 몇몇 국가는 AI 규제안 마련을 시작했는데요.
미국과 EU 등 선진국을 중심으로 AI 규제가 퍼지는 흐름입니다.

뭐가 문젠데?

Chat-GPT(챗GPT)가 선풍적인 인기를 끌면서 생성 AI를 둘러싼 문제가 수면 위로 올라왔습니다. 대필이나 표절, 사기, 해킹에 악용될 여지가 있고, 개인정보 유출이나 저작권 침해 역시 논란거리인데요.

😕 거센 열풍 따라 커지는 논란: 챗GPT는 사람과 대화하는 듯한 느낌을 줄 정도로 자연스러운 답변을 내놓고, 짧은 시를 짓기도 합니다. 코딩과 관련된 질문에도 척척 해답을 내놓는데요. 다만, 그만큼 대필이나 표절, 사기, 해킹 등 악용될 여지가 있고 데이터 출처를 제대로 적시하지 않는다는 문제도 지적받죠.

🔥 개인정보 노출 사례: 챗GPT 이용자 일부의 사용 기록이 노출되거나 회원 일부의 개인정보가 노출되는 문제도 발생했는데요. 이에 이탈리아 데이터 보호청은 서방 국가 최초로 챗GPT 접속을 차단하기도 했습니다.

✊ 저작권 침해 우려: 챗GPT와 같은 생성형 AI가 난립하는 가운데 기존 창작물의 저작권이 침해받을 수 있다는 우려의 목소리도 들립니다. 크롤링 과정에서 인터넷에 공개된 정보를 허락 없이 사용한다는 이유인데요. 미국 개발자들은 챗GPT가 자신들이 만든 코드를 표절하고 있다며 소송을 제기하기도 했죠.

미국, AI 규제 도입

이에 미국이 생성형 AI를 향해 칼을 뽑아 들었습니다. 서비스의 신뢰성과 윤리성을 확보하고 AI 기술이 책임 있게 쓰이기 위해 규제를 도입하려 하는데요.

🗡 미국 AI 규제 나선다: 지난 11일, 미국 상무부 산하 국가통신정보청(NTIA)은 AI 규제안을 마련하기 위한 60일간의 여론 수렴을 시작했습니다. 이를 바탕으로 백악관과 의회에 정책 권고안을 제시할 예정이죠.

🏛 바이든도 나서: AI의 신뢰성과 윤리성을 마련하기 위해 규제가 필요하다는 겁니다. 지난 4일 바이든 대통령 역시 기업들이 AI 관련 서비스를 내놓기 전에 안전한지 확인해야 할 책임이 있다며 AI 관련 법안의 필요성을 시사했습니다.

🎉 업계도 규제 환영: 챗GPT의 제작사인 오픈 AI 역시 강력한 AI 시스템은 엄격한 안정 평가를 받아야 한다며 필요한 규제를 위해 정부와 협력하겠다는 입장을 밝혔습니다.

중국도 규제, 그러나 결이 다르다?

🇨🇳 생성형 AI 규제 내놓은 중국: 지난 11일 중국 국가인터넷정보국은 생성형 AI 서비스 관리 대책안을 내놨습니다. 중국에서 생성형 AI 서비스를 내놓으려면 출시 이전에 보안 평가를 받고, 개인 정보나 지식재산권 보호 등 조건을 충족해야 하는데요.

🧨 AI도 검열하겠다?: 법안에 사회주의에 반하거나 정권 전복과 관련된 내용이 포함돼선 안 된다는 규정이 포함되면서 사실상 AI 서비스 검열을 하겠다는 속내를 비쳤습니다.

🙄 정부 눈치 보는 AI 시장: 이와 같은 강력한 규제에 중국 내 AI 시장이 위축될 거란 지적이 있습니다. 지난 2월 14일에도 AI 챗봇 ‘챗위안’이 출시 사흘 만에 서비스를 중단했는데요. 우크라이나 전쟁에 대해 러시아의 침략이라는 등 정부 입장과 다른 답변을 내놓은 것이 그 이유로 알려졌습니다.

AI 상위법 논의하는 EU

유럽연합(EU) 역시 포괄적인 AI 규제안을 추진하고 있습니다. 시험 채점이나 직원 채용 등에 AI 활용을 제한하고 사용자에게 AI 사용 사실을 고지할 의무를 부여하는 내용인데요.

⚖ AI 포괄 법안 나오나: EU 의회는 2021년부터 AI에 관련된 상위 법인 AI 법 초안을 마련하고 있습니다. 챗봇과 같은 생성형 AI부터 자율주행차에 이르는 광범위한 분야에서 AI 위험성을 제거한다는 취지의 법안입니다.

⚔ 고위험 사용처 규제: AI 위험성을 4단계로 분류하고 단계에 따라 사용 제한 등 규제가 부과됩니다. 시험 채점이나 직원 채용, 사법적 결정 등 위험성이 높은 사용처에 AI가 활용되기 전 AI를 점검하도록 규정할 의무도 생깁니다.