GPT-4, aunque se encuentra en una posición destacada en el campo actual de la inteligencia artificial, sus competidores como Claude de Anthropic y el Llama de código abierto de Meta siguen evolucionando constantemente. Esto significa que OpenAI necesita desarrollar nuevos modelos para mantener su posición competitiva. Mientras muchos esperan que la compañía lance GPT-5 en 2024, algunos analistas creen que esto podría no suceder.
El director del Centro de Seguridad de la Inteligencia Artificial, Dan Hendrycks, señala que con cada nueva versión del gran modelo de lenguaje (LLM) de OpenAI, los recursos computacionales necesarios aumentan diez veces. Por lo tanto, según Hendrycks, se sugiere que la empresa no avanzará hacia GPT-5 este año. Si OpenAI salta GPT-4.5 y va directamente a GPT-5, según Hendrycks, habría un aumento de aproximadamente 100 veces en los requisitos computacionales. Esto requeriría el funcionamiento ininterrumpido de alrededor de 1 millón de chips H100 durante tres meses. Sin embargo, se cree que OpenAI no tiene este nivel de capacidad computacional.
GPT-5 doesn’t seem likely to be released this year.
Ever since GPT-1, the difference between GPT-n and GPT-n+0.5 is ~10x in compute.
That would mean GPT-5 would have around ~100x the compute GPT-4, or 3 months of ~1 million H100s.
I doubt OpenAI has a 1 million GPU server ready. https://t.co/asJWNLkO23— Dan Hendrycks (@DanHendrycks) April 22, 2024
Este comentario es consistente con la declaración del CEO de Anthropic, Dario Amodei. Amodei menciona que un modelo de lenguaje de última generación actualmente cuesta alrededor de 1 mil millones de dólares, y se espera que este costo aumente a entre 5 mil millones y 10 mil millones de dólares para 2025-2026.
Recientemente, NVIDIA anunció que se espera que las unidades H100 establecidas este año consuman aproximadamente 13.000 GWh de electricidad anualmente. Esta cantidad es equivalente al consumo anual de electricidad de países como Lituania y Guatemala. Para el año 2027, se espera que el consumo de energía global de los centros de datos aumente a entre 85 y 134 TWh.
Algunos expertos creen que GPT-5 podría necesitar cambiar su programa de entrenamiento original. Esto podría significar corregir elementos que incluyan conversaciones humanas mal reguladas y en general un proceso de entrenamiento rudimentario. Por lo tanto, se sugiere que la probabilidad de que OpenAI lance GPT-4.5 este año mediante una transición gradual es mayor.
Fuente: wccftech.com