Meta revoluciona la computación de IA con el lanzamiento de su acelerador de inferencia MTIA

Publicado el 18 junio 2023 por Lauratuero @incubaweb

En su evento en línea de mayo de 2023, Meta (anteriormente conocido como Facebook) anunció el lanzamiento de su acelerador de hardware de IA de nueva generación, el Many Tensor Inference Accelerator (MTIA). Diseñado para hacer frente a las crecientes demandas de procesamiento de IA en los centros de datos, el MTIA es un acelerador de inferencia de IA de bajo costo y alta eficiencia energética.

El acelerador MTIA está compuesto por una matriz de procesadores tensoriales (TPUs) y está diseñado para maximizar el paralelismo y la reutilización de datos. Montado en tarjetas M.2 duales y compatible con los servidores del Open Compute Project, el MTIA es altamente eficiente y fácil de implementar a gran escala.

En el aspecto del software, la pila de software de MTIA se integra completamente con PyTorch, proporcionando una experiencia de desarrollo familiar. El rendimiento del MTIA en comparación con otros aceleradores es notablemente eficiente, superando a la competencia incluso en cargas de trabajo de la inteligencia artificial más complejas. Este lanzamiento representa un gran avance en el procesamiento rentable y eficiente de IA.