Tudo sobre Apple
Tudo sobre Inteligência Artificial
Por mais avançado que seja um modelo de IA, ele pode levar alguns segundos para responder a uma pergunta. Embora essa pequena demora seja aceitável para alguns usuários, ela pode ser frustrante quando dependemos da rapidez da resposta para o trabalho.
No entanto, um estudo realizado por pesquisadores da Apple e da Universidade Estadual de Ohio, nos Estados Unidos, apresentou um modelo capaz de escrever até 128 vezes mais rápido que outros chatbots disponíveis, segundo o 9to5Mac.
Respostas mais rápidas, custos menores
A maior parte dos modelos de IA funciona de forma regressiva, ou seja, prevê cada próxima palavra com base no que já foi escrito ou visto. É como se um escritor precisasse reler cada frase antes de decidir a próxima palavra. Esse processo detalhado é usado por chatbots como ChatGPT e Claude, que consideram tanto a pergunta do usuário quanto o histórico da conversa.
Existem ainda os modelos de difusão, que geram várias partes da resposta simultaneamente e as refinam em etapas sucessivas, sendo muito usados na criação de imagens, vídeos e áudios. Já os modelos de correspondência de fluxo produzem o resultado final de uma só vez, sem etapas de refinamento.
Leia mais:
O novo modelo da Apple combina o melhor desses métodos. Apesar de ser um modelo de difusão, o FS-DFM consegue escrever trechos completos de texto com apenas oito rodadas de refinamento, em vez de milhares de passos.
Modelo prevê o resultado e gera respostas de forma mais direta
Para atingir esse resultado, os pesquisadores adotaram a seguinte abordagem:
- O modelo aprende a gerar texto considerando diferentes quantidades de etapas de refinamento, permitindo maior flexibilidade.
- Um modelo orientador ajuda o sistema a realizar atualizações maiores e mais precisas a cada iteração, sem alterar o texto pretendido.
- O funcionamento de cada etapa é otimizado para que o modelo alcance o resultado final com menos etapas e maior estabilidade.
Depois dessas etapas, o sistema monitora continuamente a qualidade do texto, usando métricas que avaliam se ele soa natural e se o modelo escolhe as palavras com confiança.
Mesmo versões menores do modelo, com menos de 2 bilhões de parâmetros, conseguem gerar textos mais precisos e estáveis do que modelos maiores, mostrando que é possível ser eficiente sem perder qualidade.
Além disso, o sistema acompanha a criação de cada palavra individualmente, identificando quais partes do texto se consolidam rapidamente e quais precisam de mais ajustes. Isso ajuda a refinar o conteúdo e a produzir textos de forma mais ágil e confiável.
Portanto, da próxima vez que uma resposta demorar alguns décimos de segundo a mais, lembre-se de que há um sistema extremamente complexo trabalhando nos bastidores para garantir qualidade e precisão.
Fonte Olhar Digital