Comienzan los Días Naranjas en PcComponentes. Hay un montón de artículos con descuentos impresionantes!!!
Ver mejores ofertasChatGPT, el robot conversacional de IA de OpenAI, se ha convertido rápidamente en una sensación viral por su capacidad para escribir historias, redactar correos electrónicos y generar código. Sin embargo, parece que su funcionamiento cuesta una barbaridad.
Actualmente OpenAI gasta 694.444 dólares al día para mantener el chatbot en funcionamiento. Esto significa que el coste por consulta ronda los 0,36 céntimos.
El coste tan alto se ha calculado sobre GPT-3 y se ha tenido en cuenta que el sistema tiene unos 3.617 servidores HGX A100 con 28.936 GPU.
Sin embargo, los costes actuales de ejecución del software podrían ser incluso superiores, ya que es probable que el funcionamiento de GPT-4 sea aún más caro que el de GPT-3. El nuevo modelo ofrece información más precisa y protege mejor contra los comentarios fuera de lugar que se convirtieron en un problema con GPT-3/3.5.
Una de las principales razones de los costes exorbitantes son los chips especializados de alto consumo energético necesarios para hacer funcionar el sistema. Para combatir este problema, Microsoft, uno de los accionistas más importantes de OpenAI, está trabajando en su propio chip de IA, llamado "Athena", que podría sustituir a las GPU de NVIDIA y reducir drásticamente los costes de funcionamiento de ChatGPT.