Reciba actualizaciones gratuitas de inteligencia artificial
Te enviaremos un Resumen diario de myFT correo electrónico que resume lo último Inteligencia artificial noticias cada mañana.
El escritor es el autor de ‘Uncharted: Cómo navegar por el futuro’
¿Cómo se ha salido con la suya la industria tecnológica con el excepcionalismo durante tanto tiempo? Cada vez que surgen los efectos adversos de una nueva tecnología, el clamor más fuerte se opone a la regulación, argumentando que asfixiaría la innovación y que la ingeniería es demasiado compleja para la legislación.
De hecho, los costos pueden ser altos (pérdida de confianza, decadencia de la democracia, número creciente de muertes de adolescentes), pero la regulación sería un sacrilegio contra la cruzada por el conocimiento y el crecimiento económico. O eso dice el argumento.
Incluso cuando los pioneros apóstatas de la inteligencia artificial advierten con vehemencia sobre sus peligros, una cohorte igual y opuesta (a veces incluso con las mismas voces) argumenta que la tecnología es demasiado joven para ser coaccionada, que aún no hay suficiente evidencia de daño y qué empresas se puede confiar en que hará lo correcto.
Pero ninguna otra industria disfruta de un pase tan libre. Los dispositivos eléctricos se prueban para asegurarse de que no exploten ni se incendien. Los automóviles no están permitidos en la carretera si no cumplen con las normas de seguridad. Las empresas farmacéuticas deben demostrar que sus productos son seguros antes de poder comercializarlos. Si aparece daño en alguna de estas áreas, el reglamento se agrega al reglamento. Desarrollar y hacer cumplir los estándares es la piedra angular del contrato social: los ciudadanos esperan que sus gobiernos hagan todo lo posible para mantenerlos a salvo.
Entonces, ¿por qué la tecnología es la excepción? Cuando se descubrió que Facebook había experimentado con los usuarios sin su consentimiento, cuando se demostró que las redes sociales dañan a los usuarios jóvenes y vulnerables, sonaron los llamados a la regulación y luego se callaron. En el argumento de que las nuevas tecnologías son una oportunidad económica demasiado valiosa, la IA es solo el objetivo más reciente. Sus evangelistas dicen que hasta ahora no ha mostrado signos de peligro y que la ingeniería es demasiado turbia para que los legisladores la entiendan. El primer punto es discutible, el segundo es a menudo correcto. He tenido muchas conversaciones con parlamentarios y líderes empresariales que admiten en privado sentirse abrumados cuando se trata de tecnología. Es menos vergonzoso evitar problemas complicados, lo que significa que encuentran una causa común con empresas que también tienen interés en ignorarlos.
Tal ceguera deliberada no es la única opción. En 1982, se creó el Comité Warnock en el Reino Unido «para examinar la y potencial avances en la medicina y la ciencia relacionados con la fecundación humana y la embriología”. Deseoso de mantener su liderazgo en el campo, el gobierno del Reino Unido reconoció que la ciencia también planteaba profundas cuestiones éticas y sociales que debían responderse para que la nueva tecnología fuera aceptable.
Para dirigir el comité, el gobierno nombró a Mary Warnock, una filósofa moral que no tenía experiencia en el campo. Que los filósofos no tuvieran tema, me dijo una vez, era un don. Significaba que la gente confiaba en ella y que no tenía autoridad ni perspectiva que defender. Su talento residía en pensar en problemas difíciles.
Hacerlo implicó reunir a científicos, abogados, médicos de cabecera y teólogos «para tener», me dijo Warnock, «la conversación que no tenemos». Los científicos no eran éticos, los éticos no eran expertos científicos. Comprender la dolorosa experiencia de primera mano de la infertilidad fue esencial. Todos tuvieron que aprender mucho.
Las divisiones eran profundas. En algún momento, dijo Warnock, se enteró de que la esposa del entonces obispo de Ely había estado celebrando reuniones secretas para socavar al comité. Pero ella perseveró, con la gran ayuda de la científica Anne McLaren, a quien se le atribuye el don de aclarar la complejidad sin simplificarla.
Las recomendaciones publicadas en 1984 cumplían una regla empírica en la regulación: incluso aquellos a quienes no les gustaban podían entenderlas y vivir con ellas. Aunque muchos obispos de la Cámara de los Lores se opusieron al proyecto de ley resultante, se convirtió en ley. La innovación no fue estrangulada, Gran Bretaña mantuvo su posición de liderazgo y la tecnología benefició a cientos de miles de personas que habían soportado la agonía y el dolor de la infertilidad.
Que la IA sea igualmente compleja no es razón para evitar el desafío de contenerla. Los sistemas de IA se optimizan para resultados específicos, pero corren el riesgo de generar soluciones que son peores que los problemas para los que fueron diseñados. (Resolver el cambio climático evitando la procreación es uno de mis ejemplos favoritos).
Formular estándares en torno a la tecnología no es imposible; solo tendrá que ponerse de acuerdo sobre principios y límites del tipo con los que todas las demás industrias tienen que vivir y trabajar. Lo hace al hacer que personas de diversas disciplinas y antecedentes escuchen, aprendan y tengan conversaciones informadas, reflexivas y no polarizadas que actualmente faltan. Esta IA es tan poderosa que significa que no tenemos más remedio que intentarlo.