Según The Wall Street Journal, Meta está adquiriendo chips de entrenamiento de IA y construyendo centros de datos para crear un chatbot más potente que espera sea tan sofisticado como el GPT-4 de OpenAI. La compañía planea comenzar a entrenar el nuevo modelo de lenguaje amplio a principios de 2024.
Meta ha estado comprando más chips de entrenamiento de IA Nvidia H100 y está fortaleciendo su infraestructura para que no necesite depender de la plataforma en la nube Azure de Microsoft para entrenar el nuevo chatbot. La compañía formó un grupo a principios de este año para construir el modelo, con el objetivo de acelerar la creación de herramientas de IA que puedan emular las expresiones humanas.
El objetivo de Meta parece una extensión natural de las supuestas características de IA generativa en las que ya ha estado trabajando. Una filtración en junio afirmaba que se estaba probando un chatbot de Instagram con 30 personalidades, lo que suena mucho a las "personas" de IA no anunciadas que se dice que la compañía lanzará este mes.
Meta ha enfrentado una alta rotación de investigadores de IA debido a la división de recursos informáticos entre múltiples proyectos de LLM este año. También se enfrenta a una dura competencia en el espacio de la IA generativa. OpenAI dijo en abril que no estaba entrenando un GPT-5 y "no lo hará por un tiempo", pero se informa que Apple ha estado invirtiendo millones de dólares diariamente en su propio modelo de IA llamado "Ajax" que aparentemente cree que es más poderoso incluso que el GPT-4. Google y Microsoft han estado expandiendo el uso de la IA en sus herramientas de productividad, y Google quiere utilizar la IA generativa en Google Assistant. Amazon también tiene iniciativas de IA generativa en marcha en toda su organización que podrían resultar en un Alexa impulsado por chatbot.