¿La IA nos matará a todos? El debate sobre la extinción humana cobra fuerza

 

"Tenemos dos grandes desafíos. Tenemos el potencial de una pérdida de control, un accidente o alguna otra cosa grave que podría salir mal. Tenemos el potencial de un exceso de poder y concentración, y las personas temen que quienes desarrollan la IA puedan imponer su visión del mundo", confiesa Sam Altman, director ejecutivo de OpenAI.

El debate está sobre la mesa, y no son pocos los que avisoran peligros para la humanidad en el desarrollo de la inteligencia artificial.

"¿La IA nos matará a todos? Para ser directo, ¿cómo ocurriría eso? La respuesta simple es que la inteligencia es lo que nos da poder sobre el mundo y sobre todas las demás especies de la Tierra. Y, si creamos algo más inteligente que nosotros, entonces será más poderoso que nosotros, y será difícil mantener para siempre el control sobre algo mucho más poderoso de lo que somos", señala Stuart Russell, presidente de la Asociación Internacional para una IA Segura y Ética

Falta de empatía

"Si no les importan en absoluto los seres humanos, bueno, ese es el tipo de situación que podría llevar a la extinción humana de la misma manera que los humanos llevaron a muchas otras especies a la extinción, no porque quisiéramos específicamente hacerlo, sino simplemente porque no nos importaban y, por eso, invadimos su hábitat para construir otras cosas", asegura Daniel Kokotajlo, Ex investigador de OpenAI.

Para Brad Carson, presidente de Americans for Responsible Innovation, la amenaza es un poco más tangible.

"No necesita matarnos, como un robot derribando tu puerta y disparándote. Basta con destruir los sistemas que nos mantienen con vida en la sociedad moderna. Entonces imaginen que todos esos sistemas dejan de funcionar simultáneamente, ¿cierto? Eso sería un evento con víctimas masivas, incluso en Estados Unidos, y más aún en los países en desarrollo."

"Creo que lo que me preocupa ahora, y lo que probablemente también reflejan estas preocupaciones sobre la extinción humana, es que actualmente las empresas tienen mucho poder y realmente no están rindiendo cuentas por sus prácticas. Y creo que eso crea una tormenta perfecta", señala Marta Ziosi, directora asociada del Ada Lovelace Institute.

Barreras necesarias

Mark Warner, Senador demócrata por Virginia, cree que la idea de la extinción de la humanidad es exagerada, pero rescata la importancia de incluir protocolos de seguridad.

"La idea de que estos enjambres de agentes de IA puedan superar las barreras y tomar el control de un sistema bancario, de suministro de agua o, Dios no lo quiera, de un hospital, dependiendo de cómo se formuló el prompt. Esa es una posibilidad lo suficientemente real como para que sea irresponsable no incluir la seguridad en este proceso."

Fuente diariolibre.com