Bill Gates advierte sobre la IA: "¿Podría una máquina decidir que los humanos son una amenaza?"

El cofundador de Microsoft Corp. Bill Gates dijo que las herramientas de inteligencia artificial de generación de lenguaje de OpenAI son una de las dos tecnologías revolucionarias con las que se cruzó en la vida.

El multimillonario y filántropo de 67 años considera que la promesa de esta nueva tecnología es el "avance tecnológico más importante desde la interfaz gráfica de usuario", que permitió a las personas interactuar más fácilmente con las computadoras mediante el uso de íconos, menús y ventanas, y estableció el estándar para los sistemas operativos modernos.

"El desarrollo de la IA es tan fundamental como la creación del microprocesador, la computadora personal, internet y el teléfono móvil", escribió Gates en su blog Gates Notes. "Cambiará la forma en que las personas trabajan, aprenden, viajan, reciben atención médica y se comunican entre sí. Industrias completas se reorientarán en torno a ella. Las empresas se distinguirán según cuán bien la utilicen".

Gates se había reunido con el equipo de OpenAI desde 2016 y el año pasado los desafió a entrenar al sistema para que aprobara el examen de biología Advanced Placement. Más que solo recitar datos, la prueba pide a los estudiantes pensar de forma crítica sobre la biología, dijo. Pensó que tomaría algunos años, pero solo se necesitaron unos meses para que el modelo de IA conocido como GPT obtuviera el equivalente a una calificación A en un curso de biología de nivel universitario.

Microsoft apuesta al desarrollo de IA

OpenAI, ahora respaldada por una inversión adicional de u$s10.000 millones de Microsoft, lanzó la semana pasada GPT-4, la última versión de un modelo de IA que genera texto. También se puede usar para tareas como codificar y crear imágenes, y la versión más nueva también responde preguntas sobre imágenes que proporciona el usuario. OpenAI se ha jactado del éxito de GPT-4 en pruebas estandarizadas, pero un profesor de la Universidad de Princeton y un estudiante de doctorado argumentaron esta semana en un entrada de blog que es posible que utilicen referencias incorrectas para evaluar la capacidad de la tecnología.

Gates, que pasa la mayor parte de su tiempo involucrado con la Fundación Bill y Melinda Gates, dijo que se siente motivado por el potencial de la IA para reducir algunas de las peores desigualdades del mundo, desde la atención médica en el mundo en desarrollo hasta el cambio climático y la educación. Su fundación proporcionará más detalles sobre cómo espera usar la IA en los próximos meses, señaló.

Gates opina que los gobiernos deben colaborar para establecer límites con las empresas privadas en relación a IA

Sin embargo, Gates reconoció que la tecnología "plantea difíciles interrogantes en torno a la fuerza laboral, el sistema legal, la privacidad, los sesgos y más", escribió.

"El mundo debe asegurar que todos –no solo las personas adineradas– se beneficien de la inteligencia artificial. Los gobiernos y la filantropía deberán desempeñar un importante papel para garantizar que reduzca la desigualdad y no contribuya a ella. Esta es la prioridad para mi propio trabajo relacionado con la IA", escribió.

Gates también se refirió a la amenaza de "humanos armados con IA", y concluyó que los gobiernos deben colaborar para establecer límites con las empresas privadas. También está lo que él considera un riesgo a más largo plazo: que la IA no esté alineada con los humanos o que trabaje en contra de las personas. Esas interrogantes se volverán más importantes con el tiempo, dijo Gates.

Te puede interesar

Inteligencia artificial: "Estamos un poco asustados", advirtió el creador del ChatGPT

"¿Podría una máquina decidir que los humanos son una amenaza, concluir que sus intereses son diferentes a los nuestros o simplemente dejar de preocuparse por nosotros?", pregunta. "Posiblemente, pero este problema no es más urgente hoy que antes de los desarrollos de IA de los últimos meses".