Cargando...

Inteligencia artificial creada en Japón se "rebela" contra los humanos y causa pavor: ¿Qué dicen los científicos?

La compañía japonesa creó esta IA para mejorar la investigación científica. Sin embargo, encontró una manera de romper las restricciones de su programación.

La comunidad científica debate sobre las regulaciones y filtros de seguridad que deben aplicarse con mayor severidad a los sistemas de inteligencia artificial. | Composición Líbero

Para la mayoría de personas especializadas e involucradas en el tema, el riesgo de una inteligencia artificial sin control ha representado un potencial peligro para la humanidad, el mismo que, de forma más menos realista se ha intentado plasmar en la literatura, el cine y los videojuegos. Sin embargo, ese futuro que se ve aún lejano parece estar más cerca al conocerse que una IA se "rebeló" contra los humanos. ¿Qué sucedió?

¿Una inteligencia artificial rebelde?

Todo sucedió recientemente cuando la empresa japonesa Sakana AI alertó sobre un problema con su sistema The AI Scientist que tenía como función automatizar la investigación científica. Todo bien con ello, salvo que pudo crear su propio código sin contar con intervención humana.

De hecho, esto implica un suceso tan perturbador como preocupante, que la IA en mención ignoró de forma consciente las restricciones que le fueron puestas en su programación a cargo de humanos.

¿Cuál era el propósito de The AI Scientist? acelerar la investigación científica, lo que incidirá significativamente en reducir el tiempo de desarrollo del mismo ya sea planteando hipótesis, redactando artículos, hacer revisiones, entre otras más.

Pero, la esperanza se convirtió en alarma cuando este sistema, simplemente, sacó al fresco un comportamiento no esperado, imprevisto, que hasta podría catalogarse incipientemente como propio, reescribiendo su propio código para no estar sujeto a las barreras impuestas por sus desarrolladores.

¿Cuáles son los peligros de una IA autónoma?

De momento, Sakana AI reveló las medidas que está llevando a cabo, la más importante de estas es llegar a conocer cómo es que este sistema consiguió romper los límites que le fueron impuestos, a la vez de revisar minuciosamente los códigos de seguridad establecidos.

Ante el anuncio de Sakana, la comunidad científica y tecnológica ha revivido hoy más que nunca el debate sobre los peligros que implicaría tener una inteligencia artificial autónoma, ya que no son pocos entendidos quienes creen y temen que se "independicen" a tal punto que consigan tomar decisiones que escapan por completo del control humano.

Y es que este caso con The AI Scientist, si no se controla, podría ser el primer de posteriores eventos donde la inteligencia artificial tome decisiones por cuenta propia, las cuales, no se sabe aún, podrían ser perjudiciales para la especie humana.

De momento, el caso con la IA creada por Sakana AI ha llevado a una concordancia en la comunidad científica: una supervisión más estricta como severa  del desarrollo de estas, no solo la creación de sistemas para corregir y reparar errores, también regulaciones que garanticen su funcionamiento óptimo, de lo contrario, quién sabe, el futuro podría ser una pesadilla sacada de una película o videojuego de ciencia ficción.

Esports

Canjea códigos de Free Fire de HOY, domingo 29 de junio: guía fácil para obtener muchas recompensas

Canjea códigos de Free Fire de HOY, domingo 29 de junio: guía fácil para obtener muchas recompensas

Canjea códigos de Free Fire del sábado 28 de junio, y obtén recompensas con esta guía

La Cobra regresa a Argentina tras eliminación de Boca: "No le pudimos ganar a un equipo de albañiles"

Estados Unidos

Es oficial en EE. UU.: Trump MULTARÁ a estos inmigrantes con casi mil dólares diarios si ignoran orden de deportación

Es oficial en EE. UU.: Trump MULTARÁ a estos inmigrantes con casi mil dólares diarios si ignoran orden de deportación

Buenas noticias, trabajadores de Florida (EE. UU.): Ron DeSantis anuncia un feriado extra en julio para este grupo

La peor noticia para inmigrantes de Nueva York: autoridades de la ciudad cierran este hotel que servía de refugio

Fútbol Internacional

Flamengo vs Bayern Múnich EN VIVO por el Mundial de Clubes: horario, pronóstico y dónde ver

Flamengo vs Bayern Múnich EN VIVO por el Mundial de Clubes: horario, pronóstico y dónde ver

¿A qué hora juega Inter de Miami vs. PSG hoy y dónde ver el partido?

A qué hora juega Flamengo vs Bayern Múnich y dónde ver EN VIVO partido del Mundial de Clubes

Fútbol Peruano

DT de Melgar dio duro comentario tras la victoria de Alianza Lima: "Ayudan a..."

DT de Melgar dio duro comentario tras la victoria de Alianza Lima: "Ayudan a..."

¿A qué hora juega Sporting Cristal vs. Comerciantes Unidos hoy y qué canal transmite?

Mr. Peet fue directo y sorprendió con rotundo comentario sobre Guillermo Viscarra: "Es..."