El nuevo chip de inteligencia artificial que revolucionará ChatGPT
Una nueva startup de IA quiere ponerle las cosas difíciles a Nvidia y presenta Sohu, un chip que promete ser 20 veces más rápido que las GPU de Nvidia.
Etched
El dominio de Nvidia en el hardware de inteligencia artificial podría estar llegando a su fin, según una startup fundada por dos exalumnos de Harvard. En concreto, se llama Etched y ha presentado Sohu, un chip que, según la compañía, es 20 veces más rápido al ejecutar herramientas como ChatGPT que el buque insignia de Nvidia, el H100.
Para que te hagas una ligera idea, todo esto se debe a que, a diferencia de las GPU de Nvidia, que son de uso general y pueden realizar todo tipo de tareas, Sohu está diseñado específicamente para ejecutar modelos de IA, como los que impulsan ChatGPT, Sora y Google Gemini.
Esta especialización permite a Sohu ser más eficiente que las GPU, lo que se traduce en una velocidad y un consumo de energía más bajo. Según Etched, puede procesar hasta 500 petaflops —500 billones de operaciones de punto flotante por segundo— con una eficiencia de energía de 100 W por petaflop.
"Con más de 500.000 tokens por segundo ejecutando Llama 70B, Sohu te permite crear productos que son imposibles en GPU. Un servidor 8xSohu reemplaza 160 H100.", comentan desde la compañía. En comparación, el H100 de Nvidia solo puede procesar hasta 18,7 petaflops con una eficiencia de energía de 322 W por petaflop.
Vale, pero ¿qué significa esto para el futuro de la IA?
En la competencia está la clave y no viene nada mal que a Nvidia, por una vez, le salga un nuevo rival. Teniendo en cuenta el poder de este chip, al final todo se trata de ponerlo en marcha y ver qué tal funciona. Potencialmente, podrían crearse aplicaciones de traducción en tiempo real que puedan traducir entre varios idiomas o sistemas de IA que puedan comprender texto e imágenes a la vez.
Sin ir más lejos, Etched ya ha recaudado 120 millones de dólares para desarrollar Sohu y ha firmado un acuerdo con TSMC para fabricar el chip de 4 nanómetros. La compañía espera que esté disponible para su compra a finales de este año o principios del próximo.
Queda por ver si Sohu cumplirá las expectativas, pero sin duda es un desarrollo que merece la pena al menos poner a prueba.
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: NVIDIA, GPUs, Inteligencia artificial, Chip