챗GPT와 앤트로픽(Anthropic)과 같은 생성형 AI 도구는 콘텐츠 제작에 혁명을 일으켜 그 어느 때보다 더 쉽게 접근할 수 있게 만들었다. 이러한 AI 도구는 수많은 이점이 있지만, 광고와 마케팅 분야에서는 상당한 과제도 안겨준다.

최근 데이터에 따르면, AI가 앱 스토어에서 AI가 가짜 리뷰를 만드는 데 사용되고 있으며, 앞으로도 계속 성장할 것으로 예상된다. 많은 사람들이 이러한 것을 예상했지만, 인위적으로 앱의 신뢰도를 부풀려 사람들이 잠재적으로 유해하거나 기만적인 콘텐츠를 다운로드하도록 유도한다.

미디어 측정 회사인 더블베리파이는 별 다섯 개를 받은 수천 개의 앱 중 상당수가 모바일 앱부터 스토어에서 찾을 수 있는 스트리밍 앱까지 AI로 생성되었다는 사실을 발견했다. 그 중 많은 앱이 AI에 의해 설득력 있게 만들어졌다. 일부 가짜 리뷰는 묘하고 조직적인 AI 속임수를 사용하지만, "죄송하지만, AI 언어 모델로서..."와 같이 생성형 AI 도구의 전형적인 징후적 문구를 사용하기도 한다.