 |
|
|
MediaTek presentó un chip con amplio soporte de modelos de lenguaje grande (LLM) para acelerar el procesamiento de la tecnología de inteligencia artificial (IA) generativa en el dispositivo.
El nuevo procesador, denominado Dimensity 9300+, ofrece compatibilidad con LoRA Fusion y NeuroPilot LoRA Fusion 2.0 y con modelos como 01.AI Yi-Nano, Alibaba Cloud Qwen, Baichuan AI, ERNIE-3.5-SE, Google Gemini Nano, Meta Llama 2 y Llama 3.
Es capaz, mediante la aceleración de decodificación especulativa de NeuroPilot, de ejecutar modelos de lenguaje grande con 7.000 millones de parámetros a 22 tokens por segundo.
“El Dimensity 9300+ nos ayudará a seguir construyendo un abundante ecosistema de aplicaciones de IA generativa gracias al amplio soporte LLM del chip y LoRA Fusion en el dispositivo”, aseveró JC Hsu, vicepresidente sénior corporativo de MediaTek.
“Para mejorar estas experiencias de IA, el Dimensity 9300+ ofrece un rendimiento impresionante y mejoras para acelerar la inferencia de LLM, ejecutando tokens mucho más rápido para una mejor experiencia de usuario”, señaló.
El Dimensity 9300+ cuenta con un motor de trazado de rayos de hardware, tecnologías HyperEngine y el ISP Imagiq 990, con procesamiento RAW de 18 bits.
|
