Esta inteligencia artificial será la clave para la masificación de ChatGPT

La inteligencia artificial (IA) domina la comunicación mediática de las tecnologías de la información y la comunicación (TIC) desde fines del 2023, y la tendencia es que ocupe aún más espacio.

Entre las variables diferentes de la IA se encuentra la inteligencia artificial generativa, que permite herramientas de búsqueda como ChatGPT. Gracias a la IA generativa se desarrollaron herramientas que generan respuestas en formatos de texto, imagen y sonidos a peticiones en lenguaje llano.

Sin embargo, para difundir las herramientas de la inteligencia artificial, es necesario centrarse en mejorar sus costos, la privacidad y la seguridad, el gasto energético y la personalización.

Para Qualcomm, una corporación multinacional estadounidense fabricante de semiconductores, software y servicios relacionados con las tecnologías de comunicaciones inalámbricas, la respuesta a este reto está en la IA híbrida.

Se trata de una forma de procesamiento distribuido en la que el poder de cómputo que abastece a la IA se divide entre la computación en la nube y el dispositivo, dónde y cuándo sea más apropiado, para mejorar la eficiencia de los recursos y la experiencia del usuario.

En la siguiente entrevista de iProfesional, Helio Oyama, director de producto de Qualcomm, explica por qué la IA híbrida será clave para la masificación de la IA generativa como ChatGPT.

Helio Oyama

-¿Qué es la inteligencia artificial híbrida para Qualcomm? ¿Cuáles son sus diferencias con la inteligencia artificial generativa?

-Sin dudas, la inteligencia artificial está haciendo que los dispositivos, las máquinas, los automóviles y las cosas sean mucho más inteligentes, simplificando y transformando múltiples aspectos de nuestra vida cotidiana de una forma sin precedentes.

En línea con esto, la inteligencia artificial híbrida tiene un rol clave distribuyendo y coordinando las cargas de trabajo de IA entre la nube y los dispositivos periféricos, en lugar de procesarlas únicamente en la nube.

La nube y los dispositivos periféricos -smartphones, automóviles, computadoras personales y dispositivos de Internet de las cosas (IOT)- trabajan juntos para ofrecer una IA más potente, eficiente y altamente optimizada.

En la actualidad, los modelos de IA generativa tales como ChatGPT o Stable Diffusion están revolucionando la manera en la cual se crean contenidos e información originales, aportando mejoras significativas en cuanto a usabilidad, productividad y entretenimiento dentro de una amplia variedad de sectores.

A medida que la adopción de la inteligencia artificial generativa crece a velocidades sin precedentes y aumentan las demandas informáticas, el procesamiento híbrido es más importante que nunca.

A diferencia de la inteligencia artificial generativa, la IA híbrida combina elementos propios de la IA simbólica (basada en reglas lógicas y conocimiento experto) y la IA conexionista (basada en redes neuronales y aprendizaje automático), lo cual le permite abordar problemas mucho más complejos que requieren tanto un razonamiento lógico como la capacidad de reconocer patrones en grandes conjuntos de datos.

Es a través de la inteligencia artificial híbrida que los desarrolladores y proveedores de la IA generativa podrán aprovechar las capacidades computacionales disponibles en los dispositivos periféricos para reducir costos brindando ventajas adicionales en materia de rendimiento, personalización, privacidad y seguridad a escala global.

-¿Cuáles son las ventajas y las desventajas de la inteligencia artificial híbrida?

-El empleo de una arquitectura de inteligencia artificial híbrida ofrece numerosas ventajas en cuanto a costos, energía, rendimiento, privacidad, seguridad y personalización, a gran escala.

A medida que aumenta el uso y la complejidad de los modelos generativos de IA, ejecutar la inferencia exclusivamente en la nube no resulta rentable debido al aumento de los costos de infraestructura de los centros de datos. Trasladar parte del procesamiento de la nube a los dispositivos periféricos reduce la presión sobre la infraestructura de la nube y mitiga los gastos.

Esto hace que la IA híbrida sea crucial para que la IA generativa siga escalando, aprovechando los miles de millones de dispositivos periféricos con capacidad de IA ya desplegados, así como los miles de millones más que vendrán con una mayor potencia de procesamiento.

También permite a los fabricantes y desarrolladores independientes de software (ISV) y aplicaciones experimentar y crear aplicaciones de forma más rentable. Además, los dispositivos periféricos con procesamiento de IA eficiente ofrecen un rendimiento por vatio líder, especialmente en comparación con la nube.

Los dispositivos periféricos pueden ejecutar modelos generativos de IA con una fracción de la potencia, especialmente si se tiene en cuenta no solo el procesamiento, sino también el transporte de datos. Esta diferencia es significativa en cuanto al consumo de energía, ya que ayuda a los proveedores de la nube a reducir el gasto de los centros de datos.

En materia de procesamiento, proporciona un rendimiento fiable que puede ser comparable al de la nube o incluso mejor, cuando los servidores de la nube y la conectividad de red están congestionados.

Además, la disponibilidad del procesamiento en el dispositivo puede permitir que las aplicaciones de IA generativa se ejecuten en cualquier lugar donde se encuentren los usuarios, incluso sin conectividad.

Permite proteger la privacidad de los usuarios, ya que un "modo privado" en una arquitectura de IA híbrida permite a los usuarios utilizar estrictamente la IA en el dispositivo para introducir indicaciones delicadas a los chatbots.

Además, la seguridad en el dispositivo es sólida y evolucionará para garantizar la seguridad de los datos personales y los parámetros del modelo en los dispositivos periféricos.

Por último, la IA híbrida permite brindar experiencias de uso mucho más personalizadas. Los asistentes digitales se adaptarán a las expresiones y singularidades del usuario sin sacrificar su privacidad, a fin de mejorar y personalizar las indicaciones de la IA generativa, que se procesan en el dispositivo o en la nube.

Para concluir, creo que la inteligencia artificial híbrida abre un nuevo horizonte de oportunidades para su aplicación a una amplia variedad de dispositivos y tecnologías; sin embargo, está aún tiene mucho potencial por ser explorado para la resolución de problemas y procesamientos complejos.

-¿Cómo habilita Qualcomm la inteligencia artificial en el dispositivo?

-En Qualcomm Technologies trabajamos día a día para posibilitar una conectividad mucho más inteligente mediante la investigación y el desarrollo de soluciones de aprendizaje automático y de rendimiento optimizado, capaces de revolucionar la manera en la cual interactuamos y experimentamos el mundo.

A través de la plataforma Qualcomm AI Research hemos logrado avances significativos en materia de investigación capaces de extenderlos a una amplia variedad de segmentos y casos de uso, ampliando los límites de lo posible y dando forma al futuro de la IA.

Por otro lado, somos líderes en inferencia de IA en dispositivos en lo que respecta a aceleración de hardware de IA y soluciones de software para facilitar el desarrollo, como Qualcomm AI Stack, una cartera de software de IA unificada para plataformas móviles, automotrices, XR, computacionales, IoT y en la nube diseñada para ayudar a los desarrolladores a optimizar e implementar modelos de IA rápidamente al admitir marcos y tiempos de ejecución de IA, bibliotecas de desarrolladores, software de sistema y sistemas operativos populares.

Este motor de innovación nos permite mejorar continuamente nuestra pila de IA en hardware, software y algoritmos basados en las últimas arquitecturas de redes neuronales. A la fecha, contamos con una arquitectura de aceleración de inteligencia artificial flexible y robusta capaz de admitir cambios en su estructura de modelos de IA y evolucionar en consecuencia.

Nuestra tecnología escalable nos permite utilizar una única pila de IA altamente optimizada que funciona no solo en diferentes dispositivos finales, sino que también es fácilmente aplicable a diversos modelos, con el propósito de que la IA sea omnipresente.

El motor Qualcomm AI Engine, presente en nuestras plataformas Snapdragon y en muchos de nuestros productos, proporciona un mejor rendimiento de IA en el dispositivo con un consumo de energía extremadamente bajo para soportar los casos de uso actuales y futuros.

En la actualidad, hemos distribuido más de 2.000 millones de productos que incorporan el motor de IA de Qualcomm y que alimentan una gama inigualable de categorías de dispositivos, como smartphones, XR, tabletas, PC, cámaras de seguridad, robots, vehículos, etc.

En línea con esto, en febrero llevamos a cabo la primera demostración de Stable Diffusion, un modelo de IA generativo capaz de crear imágenes fotorrealistas con cualquier entrada de texto en decenas de segundos, en un smartphone con sistema operativo Android con tecnología Snapdragon 8 Gen 2 Mobile Platform.

Las optimizaciones que permiten que Stable Diffusion se ejecute eficientemente en teléfonos también se pueden utilizar para otras plataformas, como portátiles, dispositivos XR y prácticamente cualquier otro dispositivo impulsado por nuestras tecnologías.

En el marco de la conferencia anual IEEE/CVF sobre Visión por Computador y Reconocimiento de Patrones (CVPR), la compañía presentó ControlNet, un modelo de imagen a imagen con 1.500 millones de parámetros que funciona íntegramente en un teléfono.

ControlNet es una clase de soluciones de IA generativa conocida como modelos de visión del lenguaje, o LVM. Permite un control más preciso para generar imágenes mediante el condicionamiento de una imagen de entrada y una descripción de texto de entrada.

En esta demostración, las imágenes de IA se generaron en el dispositivo en menos de 12 segundos sin necesidad de acceder a la nube, lo que permitió una experiencia de usuario interactiva mucho más eficiente, agradable, fiable y privada.

Por último, recientemente, Qualcomm en alianza con Meta, están trabajando para poner a disposición implementaciones de IA basadas en Llama 2 en smartphones y PC insignia a partir del año 2024, para permitir a los desarrolladores dar paso a nuevas y emocionantes aplicaciones de IA generativa, utilizando las capacidades de IA de las plataformas Snapdragon.

La capacidad de ejecutar modelos generativos de IA como Llama 2 en dispositivos como smartphones, PC, audífonos VR/AR y vehículos permite a los desarrolladores ahorrar en costes de nube y ofrecer a los usuarios experiencias privadas, más fiables y personalizadas.

-¿Cuáles son hoy los dispositivos con plataformas Snapdragon que tienen habilitadas inteligencia artificial?

-Qualcomm diseña y desarrolla soluciones y plataformas de inteligencia artificial dirigidas hacia una multiplicidad de sectores y casos de uso. En línea con esto, el año pasado, la compañía presentó el Snapdragon 8 Gen2, una plataforma móvil basada en inteligencia artificial que ofrece un rendimiento acelerado y una conectividad sin igual, para posibilitar experiencias de última generación.

En cuanto a los dispositivos que actualmente cuentan con este procesador, podemos encontrar al Samsung Galaxy S23 Ultra, OnePlus11, Nubia RedMagic 8 Pro y el modelo Xiaomi 13.

Además, recientemente, la compañía presentó el Snapdragon 4 Gen 2, una nueva plataforma móvil diseñada para brindar experiencias únicas a sus usuarios, la cual incluye entre sus mejoras una nueva función basada en la inteligencia artificial que hace posible la captura de imágenes más nítidas y detalladas en entornos con poca luz.

-¿Por qué Qualcomm entiende que se debe enfocar el desarrollo de la inteligencia artificial en variables como costos, privacidad, seguridad, gasto energético y personalización?

-En Qualcomm trabajamos para hacer posible un mundo en el que todos y todo lo que está a nuestro alrededor pueda conectarse de forma inteligente. Para alcanzar este objetivo, hemos trazado un camino a seguir que se apoya en años de experiencia e investigación y nos permite diseñar y desarrollar soluciones y plataformas tecnológicas únicas en el mercado, capaces de redefinir y revolucionar la manera en la que experimentamos el mundo, acelerar la economía digital y contribuir a la transformación de diferentes segmentos e industrias.

Nos esforzamos por crear tecnologías de IA que aporten cambios positivos a la sociedad. Sin dudas, variables como los costos, la privacidad, la seguridad, el gasto energético y la personalización son fundamentales a la hora de diseñar soluciones y plataformas en materia de conectividad e inteligencia artificial; ya que nos permite desarrollar y brindarles a nuestros usuarios soluciones de alto valor, mucho más eficientes y económicas en comparación con otros productos o servicios presentes en el mercado, las cuales, a su vez, contribuyan significativamente a minimizar su huella ambiental y los costos operativos que se devienen de su aplicación.

Además, nuestras soluciones de IA para dispositivos están diseñadas para mejorar la privacidad y la seguridad, esenciales para desarrollar un ecosistema de IA sólido, fiable y ético, como así también proporcionar experiencias inmersivas y de última generación completamente adaptables a sus preferencias y necesidades.