A Amazon está investindo milhões de dólares no treinamento de um ambicioso modelo de linguagem generativa (LLMs), codinome “Olympus”, na esperança de rivalizar com os principais modelos da OpenAI e da Alphabet, de acordo com duas pessoas familiarizadas com o assunto.
Entretanto, o modelo terá 2 trilhões de parâmetros, o que o tornaria, contudo, um dos maiores modelos sendo treinados atualmente. O GPT-4 da OpenAI, um dos melhores modelos disponíveis, tem um trilhão de parâmetros.
Equipe do Projeto Amazon
A equipe do projeto é liderada por Rohit Prasad, ex-chefe da Alexa e agora cientista-chefe de inteligência artificial geral (AGI) da Amazon.
Prasad reuniu pesquisadores que trabalhavam na IA da Alexa e na equipe científica da Amazon para trabalhar no treinamento de modelos, unindo os esforços de IA em toda a empresa com recursos dedicados.
Parcerias com Startups
A Amazon já treinou modelos menores, como o Titan. Também fez parcerias com startups de modelos de IA, como Anthropic e AI21 Labs, oferecendo-os aos usuários do Amazon Web Services (AWS).
A Amazon acredita que ter modelos próprios pode tornar suas ofertas mais atraentes no AWS, onde clientes corporativos desejam acessar modelos de alto desempenho.
As duas pessoas familiarizadas com o assunto disseram que não há um cronograma específico para o lançamento do novo modelo.
LLMs são a tecnologia subjacente às ferramentas de IA que aprendem com grandes conjuntos de dados para gerar respostas semelhantes às humanas.
Treinar modelos de IA maiores é mais caro, devido à quantidade de poder de computação necessária.
Comentário:
Entretanto, o investimento da Amazon em um grande modelo de linguagem generativa é um sinal de que a empresa está levando a sério a IA generativa.
A IA generativa, contudo, tem o potencial de revolucionar muitos setores, incluindo varejo, entretenimento e saúde.
A Amazon está bem posicionada para capitalizar essa tendência, pois tem uma grande quantidade de dados e recursos de computação à sua disposição.
Contudo, é importante notar que treinar e implantar grandes modelos de linguagem generativa é um desafio.
Os modelos podem ser caros para treinar e podem exigir muito poder de computação para executar.
Além disso, os modelos de IA generativa podem ser usados para gerar conteúdo prejudicial, como notícias falsas e propaganda enganosa.
A Amazon precisará tomar cuidado para garantir que seu modelo de linguagem generativa seja usado de forma responsável.
A empresa precisará desenvolver salvaguardas para evitar que o modelo seja usado para gerar conteúdo prejudicial. A Amazon também precisará ser transparente sobre como o modelo funciona e como está sendo usado.
Fonte:
Reuters: https://www.reuters.com/