Hay una imagen que rutinariamente se acerca a Internet, generalmente después de que un chud desagradable sugiere que los maestros deben ser reemplazados por IA, que dice: “Una computadora nunca puede ser responsable, por lo tanto, una computadora nunca debe tomar una decisión de gestión”. Es un consejo práctico atribuido a Material de entrenamiento de IBM de 1979pero uno tiene que preguntarse si su escritor se inspiró en una generación de ciencia ficción que advirtió sobre las consecuencias mucho peores que las demandas si las computadoras se pusieron a cargo.
Un clásico temprano del género, el torpemente titulado Coloso: El proyecto Forbin, Acabo de celebrar su 45 aniversario. Una especie de cruce entre Dr. Strangelove, Guiones de guerra, Y una precuela de Terminator, está desesperadamente fechado en algunos lugares pero terriblemente relevante en otros, especialmente como las mentes más desagradables de nuestra generación decen cartas de terminación de errores en Chatgpt.
Basado en una novela de Dennis Feltham Jones, Coloso se abre con el Dr. Forbin (Future Los jóvenes y los inquietos Mainstay Eric Braeden) Activando la supercomputadora del título, que se le ha dado el control del arsenal de misiles de Estados Unidos. Elogiado por el Presidente, en un caso particularmente siniestro de presagio, como “el sistema de defensa perfecto”, Coloso supuestamente eliminará las emociones y los errores humanos de la prospersión nuclear, mientras disfruta de la inmunidad para atacar y subterfugios gracias a su ubicación impenetrable en el corazón de las montañas rocosas.
Las celebraciones se interrumpen cuando Coloso anuncia: “Hay otro sistema”. Resulta que los soviéticos tienen su propia supercomputadora, y un intento de dejar que Coloso descubra sus habilidades cuando comienzan a colaborar. Cortar el enlace solo hace que Colossus amenace al país con sus propios misiles, y a medida que la situación se deteriora aún más, Forbin y su equipo deben frustrar de alguna manera su creación antes de que conquista el planeta en nombre de mantener la paz.
Su teléfono es más poderoso que Coloso de manera realista, pero la imagen anticuada de una supercomputadora del tamaño de un búnker lo convierte en una visual cinematográfica convincente. Colossus es una bestia que zumba de cinta magnética e impresiones de papel, y a medida que sus mensajes para forbin se vuelven cada vez más autocráticos, la charla de teletipo acompañante adquiere un tono siniestro. Coloso no es tan brutal como Skynet, pero el problema es el mismo: su hiperracionalidad supuestamente superior solo hace que vea vidas humanas individuales como irrelevantes.
Irónicamente, El proyecto Forbin's La edad hace que las habilidades de Coloso parezcan más creíbles que las modernas supercomputadoras de Hollywood.
Imágenes universales
Coloso incluso comienza a dictar el horario de Forbin, hasta su menú de desayuno. La película pierde algo de impulso cuando se vuelve computarizado Pareja extraña, y El truco de Forbin para asegurar un respiro de la vigilancia 24/7, fingir que una mujer en su personal es su amante, y que necesita intimidad regular para servir a Coloso en la máxima eficacia, es un poco ridículo. Aún así, para cuando las personas se ejecutan sumariamente porque la computadora lo dice, es difícil no ver alguna relevancia moderna.
Vivimos, después de todo, en un momento en que se utiliza la “orgorítmica algorítmica” para planificar deportaciones, huelgas militaresy opresión antidissidente, y es escalofriante leer cómo las tasas aceptables de bajas civiles se han horneado en los mismos programas que les dan a las personas que ejecutan sus sugerencias supuestamente objetivas una capa de negación moral. Claro, tal vez una persona inocente es arrojada a una prisión infernal o una familia es borrada de la existencia, pero eso fue solo culpa de la computadora. ¿Por qué querrías responsabilizar a la persona que sacó el gatillo?
Para algunas personas, eso es un beneficio, no un defecto. Al principio de la película, cuando los creadores de Colossus piensan que todavía tienen el control, uno de los asesores del presidente se atrapa llamando a la computadora, no es así, lo que provoca que su jefe amonestara en broma: “No lo personalice. La siguiente parada es deificación”. Ese es el consejo que los mayores refuerzos de IA podrían tomar, dada su creencia milenaria de que estamos perpetuamente a punto de lograr la inteligencia general artificial: computadoras de estilo coloso mucho más inteligente y más capaz de lo que somos.
Si sucede, comencemos más pequeños que las armas nucleares.
Imágenes universales
Según la gente como Bill Gates, Elon almizcley el hombre más molesto en su salón de clases o lugar de trabajo, AGI llegará en un año o dos, y curará todas las enfermedades y ejecutará todas las burocracia y nos dará todas las piruletas. No importa que se suponía que tales maravillas debían ya he fijado a la humanidad hace añoso que agi aún puede tomar décadas para lograro eso, más realistas, nunca sucederá en absoluto. Para los creyentes en la segunda venida digital, está bien si seguimos devastando el medio ambiente y tratando a personas como peones desechables, porque todo está al servicio de la utopía que está perpetuamente en el horizonte. Al menos, el Dr. Forbin parecía un buen jefe antes de que accidentalmente encadenara toda su especie a los caprichos de una computadora.
A Coloso Remake estuvo una vez en las cartas, y es una pena que se haya estancado. Una supercomputadora moderna tendría que ser más Dead Reckoning's Entidad que la extensa mainframe, y presumiblemente habría menos engaños basados en el amor, pero el hecho de que la IA nunca se le debe dar más poder que los humanos que lo emplean es uno que debe revisarse desesperadamente. Tal vez nadie planea dar códigos de lanzamiento nuclear de Siri, pero las personas que quieren poder sin responsabilidad ya permiten que los algoritmos defectuosos tomen demasiadas decisiones. No dejemos que llegue al punto que lo hizo el arrogante Dr. Forbin.
