O OpenAI fez uma nova versão do seu modelo de idioma GPT-3 AI disponível, que promete ser melhor para seguir as intenções do usuário, além de produzir resultados mais verdadeiros e menos tóxicos.
A API da IA aberta é alimentada por modelos de idiomas GPT-3 que podem ser usados para executar tarefas de linguagem natural usando prompts de texto cuidadosamente projetados.No entanto, os modelos também podem produzir saídas que são invertidas, tóxicas ou refletem sentimentos nocivos.
Os modelos de IA da organização foram criticados no passado por uma série de deficiências, incluindo racismo contra gêneros e religiões específicos.A organização uma vez chamou o GPT-3 perigoso demais para ser público, devido à API ser capaz de criar notícias falsas, seguindo pistas dos oito milhões de páginas da web que ele digitalizou para aprender sobre o idioma.
A organização disse que isso ocorre em parte porque o GPT-3 é treinado para prever a próxima palavra em um grande conjunto de dados do texto da Internet, em vez de executar com segurança as tarefas do idioma que o usuário deseja.
Para tornar seus modelos mais seguros e mais alinhados com os usuários, o OpenAI usou uma técnica conhecida como Aprendizagem de reforço com o feedback humano (RLHF), usando ajudantes humanos chamados Labeladores para ajudar a IA em seu aprendizado.
“Nos avisos enviados por nossos clientes à API, nossos gravadores fornecem demonstrações do comportamento do modelo desejado e classificam vários resultados de nossos modelos.Em seguida, usamos esses dados para ajustar o GPT-3 ”, disse a empresa.
