in

«¿Debemos ariesgarnos a perder el control de la civilización?»: expertos tecnológicos piden pausar el desarrollo de la IA

«¿Debemos ariesgarnos a perder el control de la civilización?»: expertos tecnológicos piden pausar el desarrollo de la IA

La inteligencia artificial aspira a transformar el mundo, pero muchos gurús tecnológicos están preocupados por su rápido desarrollo. Más de mil ejecutivos de grandes empresas, humanistas y desarrolladores, entre los que figura nombres como Elon Musk o Steve Wozniak, cofundador de Manzanahan firmado una carta en la que solicitan a los principales laboratorios volcados en el desarrollo de la IA que paren sus trabajos en el entrenamiento de sus futuras soluciones, más potentes que las que conocemos actualmente.

¿La Razón? La amenaza de que, potencialmente, las máquinas apoyadas en inteligencia artificial «inunden nuestros canales de información falsa y propaganda» y terminen sustituyendo a los seres humanos en el mundo laboral.

«Hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de los de los poderosos que GPT-4 (el nuevo modelo empleado por ChatGPT o el chatbot inteligente de Bing motor de búsqueda). Esta pausa debe ser pública y verificable, e incluye a todos los actores clave. Si tal pausa no se puede promulgar rapidamente, los gobiernos deben intervenir e instituir una moratoria«, se puede leer en la misiva.

Las firmas están preocupadas, incluso, por la posibilidad de que, en el futuro, las «mentes no humanas» puedan «superarnos en número, ser más inteligentes y reemplazarnos». También apuntan que el humano se arriesga a «perder el control de nuestra civilización».

«Tales decision no deben delegar en ledes tecnológicos no elegidos. Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables», se destaca. Asimismo, se reclama la regulación de la tecnología y la creación de nuevos poderes públicos encargados de controlar los desarrollos.

Buscando la regulación

La llegada de ChatGPT, y su enorme éxito, ha provocado que muchas tecnologías, como Google, Microsoft, Meta o la china Baidu se han adentrado en una carrera que tiene como objetivo poner en manos de los usuarios el mayor número posible de herramientas basadas en inteligencia artificial.

OpenAI, el laboratorio detrás del desarrollo de la popular máquina contestadora de preguntas, anunció recientemente el lanzamiento de GPT-4, el modelo generador de imágenes y lenguaje más poderoso que existe. Una herramienta que, a pesar de las mejoras, sigue cometiendo errores y, en malas manos, puede ser explotada en contra de los usuarios.

En el escrito se afirma que la moratoria en el desarrollo de nuevos sistemas debe ser aprovechada por los laboratorios “para desarrollar e implementar de forma conjunta un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados”. por expertos externos independientes».

Actualmente, la Unión Europea trabaja en la aprobación de un nuevo reglamento sobre inteligencia artificial en el que se espera que se tengan en cuenta nuevas herramientas como ChatGPT, según informa la agencia ‘Reuters’.

Muchas empresas de ciberseguridad, y también Europol, han sido alertadas durante las últimas semanas sobre el potencial que tienen las plataformas de IA, sobre todo si aún están en desarrollo, para ser utilizadas con todo tipo de fines maliciosos: desde la creación de ciberestafas y temores de todo tipo hasta el desarrollo de campañas de desinformación.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

La gran patronal de la industria se rearma y exige un marco legal estable y alejado de los prejuicios en España

La gran patronal de la industria se rearma y exige un marco legal estable y alejado de los prejuicios en España

Automation24 aumenta su gama en la sección de industria de la alimentación

Automation24 aumenta su gama en la sección de industria de la alimentación