A Apple atrasou a aprovação de uma atualização do BlueMail, aplicativo de e-mail com ferramentas de linguagem baseadas em inteligência artificial (IA), devido a preocupações de que poderia gerar conteúdo inapropriado para crianças, de acordo com Ben Volach, cofundador do desenvolvedor BlueMail Blix e com documentos visto pelo The Wall Street Journal. O desenvolvedor de software discorda da decisão.
O novo recurso de IA do BlueMail usa o mais recente chatbot ChatGPT da OpenAI para ajudar a automatizar a escrita de e-mails usando o conteúdo de e-mails anteriores e eventos de calendário. O ChatGPT permite que os usuários conversem com uma IA de maneiras aparentemente humanas e é capaz de escrever de forma avançada em uma variedade de tópicos.
“Seu aplicativo inclui conteúdo gerado por IA, mas não parece incluir filtragem de conteúdo no momento”, disse a equipe de revisão de aplicativos da Apple na semana passada, em uma mensagem ao desenvolvedor analisada pelo WSJ.
A equipe de revisão do aplicativo disse que, como o aplicativo pode produzir conteúdo não apropriado para todos os públicos, o BlueMail deve aumentar sua restrição de idade para 17 anos ou mais ou incluir filtragem de conteúdo, mostram os documentos.
A restrição do aplicativo está atualmente definida para usuários de 4 anos ou mais. Volach diz que esse pedido é injusto e que outros aplicativos com funções semelhantes de IA sem restrições de idade já são permitidos para usuários da Apple.
Um porta-voz da Apple disse que os desenvolvedores podem contestar uma rejeição por meio do processo de apelação do Conselho de Revisão de Aplicativos e que está investigando a reclamação do desenvolvedor.
