Edge, PC y smartphones se adaptan a la IA generativa

Este año, uno de cada cinco ordenadores vendidos en todo el mundo debería estar equipado con un chip dedicado a la inteligencia artificial. Para 2027, se espera que la proporción aumente a seis de cada diez computadoras. En valor absoluto, estas previsiones, establecidas por IDC, deberían traducirse en la comercialización de 50 millones de PC con IA en 2024, y luego en la entrega de 167 millones de estos equipos tres años después. En cuanto a los teléfonos inteligentes con IA, Gartner, por su parte, espera que se vendan 240 millones de productos en 2024, o el 22% del volumen total de ventas de teléfonos inteligentes que espera durante el mismo período.

El procesamiento remoto de datos de IA no es un modelo viable

Actualmente, el entrenamiento de grandes modelos lingüísticos (LLM) y el procesamiento de datos de IA se llevan a cabo en centros de datos. Sin embargo, este modelo no es viable por varias razones. Uno de los problemas de un ecosistema basado en centros de datos es la enorme cantidad de procesamiento del acelerador de GPU y electricidad necesarios para ejecutar los LLM, así como posibles problemas de conectividad de red. Sin embargo, la industria GenAI ya se enfrenta a una escasez de procesadores especializados necesarios para formar y operar LLM. (Se necesitan hasta tres años para lanzar una nueva fábrica de silicio para este propósito).

De hecho, los proveedores de borde ya están migrando cargas de trabajo de IA desde la nube a los usuarios finales. Esto puede mejorar el rendimiento al eliminar los viajes de ida y vuelta que las cargas de trabajo de IA actualmente tienen que realizar a través de las redes. Según IDC y otros, trasladar la IA a chips dedicados en equipos de vanguardia también mejorará la privacidad y seguridad de los datos al mantenerlos locales. También puede reducir los costos, limitando la necesidad de acceder a costosos recursos en la nube para la capacitación de LLM y el procesamiento de inferencias. Esta última es la capacidad de un sistema para hacer predicciones (ya sea la siguiente oración, la siguiente imagen o la siguiente línea de código) basándose en nuevos datos.

GenIA impulsa el crecimiento de la informática de punta

La integración de GenAI en la transformación digital de las empresas está impulsando el crecimiento de la informática de punta en general. Esto convierte a este último en el segmento de la informática de más rápido crecimiento, mayor que el de la nube. Según Gartner, para 2025, más del 50% de los datos gestionados por las empresas se crearán y procesarán fuera de los centros de datos o la nube.

"La rápida adopción de capacidades genAI en dispositivos y procesadores de IA eventualmente se convertirá en un requisito estándar para los proveedores de tecnología", dijo Ranjit Atwal, analista de Gartner. “Esta omnipresencia planteará problemas a los proveedores para diferenciarse de sus competidores y, por tanto, aumentar sus ingresos”, añade. Varios actores, incluidos Nvidia, Intel y AMD, ya han comenzado a centrarse en la producción de NPU y chiplets SoC dedicados. Ayudan a las CPU y GPU de los dispositivos perimetrales a ejecutar tareas genAI.