생성형 AI 도구가 계속 확산됨에 따라 이러한 프로세스의 위험성과 저작권 침해, 잘못된 정보, 명예훼손 등으로부터 사람들을 보호하기 위해 어떤 규제 조치를 취할 수 있는지에 대한 질문이 증가하고 있다. 필요한 책임과 조치에 대한 다양한 접근 방식과 의견 등으로 글로벌 협력이 필요하기 때문에 정부 차원의 규제를 확립하기는 어렵다. 따라서 생성형 AI 도구와 관련된 위험을 완화하기 위한 통제 조치와 규칙을 구현하는 것은 소규모 산업 그룹과 개별 기업의 몫이 될 가능성이 높다.

메타와 마이크로소프트는 지난 14일(현지 시간) AI가 만든 미디어의 개발, 제작 및 공유에서 책임감 있는 관행을 장려하기 위한 프레임워크를 연구하는 그룹에 합류했다. 이 그룹은 AI로 생성된 작업의 기술적, 법적, 사회적 영향에 대해 연구하고 있다.