Zoho Corporation utilizará NVIDIA NeMo para desarrollar LLMs personalizados para empresas

Zoho colaborará con NVIDIA para desarrollar modelos de lenguaje avanzados adaptados a las necesidades empresariales, con un enfoque en la privacidad y la contextualización de datos.
28 de octubre, 2024
Zoho Corporation utilizará NVIDIA NeMo para desarrollar LLMs personalizados para empresas

Zoho Corporation ha anunciado una alianza con NVIDIA para implementar la tecnología NVIDIA NeMo, una herramienta clave de NVIDIA AI Enterprise, en el desarrollo de Modelos de Lenguaje Extenso (LLM, por sus siglas en inglés) para sus aplicaciones empresariales SaaS.

Este acuerdo permitirá a la compañía de tecnología ofrecer LLMs adaptados a las especificidades del mundo corporativo, priorizando tanto la privacidad de los usuarios como la integración contextual en los procesos corporativos.

Los LLMs estarán disponibles para más de 700.000 clientes de Zoho y ManageEngine en todo el mundo.

Inversión y compromiso con la IA corporativa

Este proyecto forma parte de la estrategia de Zoho de invertir en soluciones de IA personalizadas y, para ello, la compañía ha destinado más de 10 millones de dólares en el último año en tecnología de NVIDIA, incluyendo sus GPUs de IA, y planea destinar otros 10 millones en 2025.

Este anuncio tuvo lugar durante el NVIDIA AI Summit en Mumbai, en el que Ramprakash Ramamoorthy, director de IA en Zoho, destacó que su misión es construir LLMs específicamente orientados a usos empresariales, en contraste con los modelos de lenguaje de consumo generalizado. «Muchos de los LLMs disponibles hoy en día están diseñados para el público general y no cumplen con las necesidades empresariales«, señaló Ramamoorthy.

Al integrar IA en toda su infraestructura tecnológica, Zoho asegura un nivel de personalización y privacidad robusto, manteniendo un control exclusivo sobre los datos y centrándose en el contexto específico de cada negocio. Esta colaboración con NVIDIA permitirá a Zoho optimizar el rendimiento de sus modelos y reducir la latencia, un avance fundamental para sus usuarios empresariales.

Innovación en IA con NVIDIA: más allá de los LLMs

La colaboración con NVIDIA no solo se enfoca a los LLMs, sino también en IA generativa personalizada que abarca IA multimodal, visión y voz. Además, Zoho está probando NVIDIA TensorRT-LLM para mejorar todavía más la eficiencia de sus modelos de lenguaje, y ya ha registrado un incremento del 60% en el rendimiento y una disminución del 35% en la latencia frente a plataformas de código abierto previamente utilizadas.

Zoho también aprovecha la infraestructura de computación acelerada de NVIDIA para optimizar otras funciones de IA, como la conversión de voz a texto.

Por su parte, Vishal Dhupar, director general de Asia Sur en NVIDIA, destacó la importancia de esta alianza: «La posibilidad de elegir entre distintos tamaños de modelos de IA permite a las empresas ajustar sus soluciones según sus necesidades específicas, equilibrando así el rendimiento y la rentabilidad».

Un modelo de IA centrado en la privacidad y el control de los datos

Zoho ha demostrado su compromiso con la privacidad de los usuarios, desarrollando modelos de IA que no dependen de los datos de los clientes para su entrenamiento. La empresa gestiona sus propios centros de datos, lo que asegura un control total sobre la seguridad y privacidad de los datos, una diferencia esencial respecto a los servicios que se basan en modelos de negocio orientados a la publicidad.

Más de 100 millones de usuarios en el mundo confían en Zoho para la gestión de sus negocios, incluida la propia Zoho, debido a este enfoque centrado en la privacidad.