Voces

Saturday 12 Oct 2024 | Actualizado a 14:41 PM

El verdadero peligro de la IA

Los investigadores dedicados a la IA están obsesionados con el tema del ‘alineamiento’

/ 3 de marzo de 2023 / 02:21

En 2021, entrevisté a Ted Chiang, uno de los grandes escritores vivos de ciencia ficción. No me puedo quitar de la cabeza algo que me dijo en esa entrevista. “En general, pienso que la mayoría de los temores en torno a la inteligencia artificial (IA) se aclaran si los planteamos como miedo al capitalismo”, me dijo Chiang. “Creo que esta verdad se aplica por igual a la mayoría de los temores que despierta la tecnología. La mayoría de los miedos o ansiedades que sentimos con respecto a la tecnología se entienden mejor si los explicamos como temor o ansiedad por la forma en que el capitalismo utilizará la tecnología en nuestra contra. Lo cierto es que la tecnología y el capitalismo están tan conectados que es difícil separarlos”.

Al respecto, permítanme añadir algo: también es muy preocupante que el Estado controle la tecnología. Pensar en los fines para los que cada gobierno podría utilizar la inteligencia artificial —y, en muchos casos, ya la utiliza— es inquietante.

Pero podemos mantener dos ideas opuestas en la mente, espero. Mi punto es que la advertencia de Chiang hace notar un vacío central en nuestra perspectiva actual de la IA. Estamos tan obsesionados con la idea de descubrir qué puede hacer la tecnología, que no nos hemos detenido a considerar las preguntas más importantes: ¿cómo se utilizará? y ¿quién tomará esa decisión?

Los investigadores dedicados a la IA están obsesionados con el tema del “alineamiento”. Se trata de descubrir cómo lograr que los algoritmos de aprendizaje automático hagan lo que queremos que hagan. Sin embargo, existe un problema de alineamiento más banal, que quizá también sea más apremiante: ¿al servicio de quién estarán estas máquinas? No por mucho tiempo. Microsoft, al igual que Google, Meta y las demás empresas que quieren sacar estos sistemas al mercado lo más pronto posible, tiene las llaves que dan acceso al código. Llegará el momento en que logren remendar el sistema para que se amolde a sus intereses.

Hablamos tanto sobre la tecnología de la IA que hemos ignorado, casi por completo, los modelos de negocios que la operarán. Además, la publicidad no es el único tema que debe preocuparnos. ¿Qué pasará cuando estos sistemas estén al servicio de las estafas que desde siempre han llenado internet? ¿Y cuando respalden los intereses de campañas políticas o de gobiernos extranjeros? Los problemas de alineación no son una novedad. Siempre han sido una particularidad del capitalismo y de la vida humana. Gran parte del trabajo del Estado moderno consiste en aplicar los valores de la sociedad al funcionamiento de los mercados, de modo que estos últimos sirvan, en cierta medida, a los primeros. Lo hemos hecho extremadamente bien en algunos mercados —pensemos en los pocos accidentes aéreos que hay y en lo libres de contaminación que están la mayoría de los alimentos— y catastróficamente mal en otros.

En este sentido, un peligro es que un sistema político consciente de su ignorancia tecnológica se sienta intimidado y se tome su tiempo para observar a la IA. Es una actitud que muestra cierta sensatez, pero si esperamos mucho tiempo, los ganadores en la fiebre del oro de la IA tendrán suficiente capital y suficientes usuarios para resistir cualquier iniciativa seria de regulación. De alguna manera, la sociedad tendrá que decidir qué puede aceptar que haga la inteligencia artificial y en qué áreas no debe permitir su intervención, antes de que sea demasiado tarde para tomar esas decisiones.

Por esa razón, me atrevería a cambiar, una vez más, el comentario de Chiang: la mayoría de los miedos en torno al capitalismo se entienden mejor si se plantean como el miedo a nuestra incapacidad de regular el capitalismo.

Ezra Klein es columnista de The New York Times.

Temas Relacionados

Comparte y opina:

Bien, llámalo regreso

‘Convertir el revés en regreso’, dijo Biden el jueves. ‘Eso es lo que hace Estados Unidos’. Es un buen mensaje

/ 11 de marzo de 2024 / 06:53

Si el Joe Biden que se presentó para pronunciar el discurso sobre el Estado de la Unión la semana pasada es el Joe Biden que se presenta durante el resto de la campaña, no habrá más expertos indecisos que sugieran que no está presente para postularse a la reelección. Esperamos que así sea.

Pero eso no es lo único del jueves por la noche a lo que espero que Biden se aferre. Hasta ahora, el equipo de Biden se ha mostrado más seguro atacando la amenaza de Donald Trump a la democracia que defendiendo el mandato de Biden. Eso refleja un extraño problema al que se enfrentan. Prácticamente desde cualquier punto de vista, salvo los precios de los alimentos, Biden preside una economía fuerte, mucho más fuerte que la mayoría de los países pares.

Lea también: El verdadero peligro de la IA

Pero los estadounidenses sienten lo contrario. La encuesta más reciente del Times/Siena encontró que el 74% de los votantes registrados calificaron la economía como “pobre” o “regular”. Por un margen de 15 puntos, los votantes dijeron que las políticas de Trump los ayudaron personalmente. Por un margen de 25 puntos, dijeron que las políticas de Biden los perjudicaban personalmente.

Los votantes parecen recordar el final del tercer año de Trump, cuando la economía era fuerte, y no la calamidad total de su cuarto año, cuando su respuesta al COVID fue el caos y la economía congelada. En noviembre de 2020, el desempleo era del 6,7% y Trump acababa de convertir una celebración en la Casa Blanca en un evento de gran difusión. Los republicanos que dicen que los estadounidenses deberían preguntarse si están mejor que hace cuatro años deberían tener cuidado con lo que desean.

Pero Biden se encuentra en una situación difícil. No querrás postularte para la reelección diciéndoles a los votantes que están equivocados y que la economía es realmente excelente. Tampoco se puede postular para la reelección diciéndoles a los votantes que tienen razón y que la economía está mal. Biden a menudo ha parecido un poco inseguro de qué decir sobre su propio historial. El jueves por la noche lo descubrió.

“Llegué al cargo decidido a ayudarnos a superar uno de los períodos más difíciles en la historia de la nación”, dijo Biden. «Tenemos. No es noticia, noticia: en mil ciudades y pueblos, el pueblo estadounidense está escribiendo la historia de regreso más grande jamás contada”.

El estribillo de Biden sobre el regreso de Estados Unidos es agudo. Hace dos cosas simultáneamente. Recuerda a los votantes que hay algo de lo que Estados Unidos se está recuperando (a saber, las dislocaciones de la pandemia y el estilo de gestión salvaje y errático que Trump le impuso) y permite a Biden señalar el progreso sin declarar la victoria. Es el mensaje correcto para un titular: están sucediendo cosas buenas. Avancemos.

También describe la forma en que el equipo de Biden imagina realmente un segundo mandato. Cuando hablé con funcionarios de la administración en las semanas previas al Estado de la Unión, me sorprendió cuántos me dijeron que la máxima prioridad de un segundo mandato era hacer realidad los logros legislativos del primero. El historial de Biden es atípicamente físico: la Ley de Empleo e Inversión en Infraestructura, la Ley de Reducción de la Inflación y la Ley CHIPS y Ciencia tienen como objetivo construir cosas reales en el mundo real. Es un trabajo lento que requiere tiempo; demasiado tiempo, si somos honestos.

Luego está la parte de la economía que todavía tiene a la gente furiosa y que es indiscutiblemente peor que cuando Biden asumió el cargo: los precios. Biden anunció una serie de políticas concretas para bajar los precios: un crédito fiscal temporal para dar a los estadounidenses un alivio hipotecario mientras esperan que bajen las tasas de interés. La eliminación de las tarifas del seguro de título de las hipotecas respaldadas por el gobierno federal. Ampliar el poder de Medicare para reducir los precios de los medicamentos.

Pero podría ir más allá. Tyler Cowen, economista y columnista de Bloomberg, tiene razón cuando dice que la debilidad de la agenda económica de Biden ha sido que “tiene mucho gasto pero muy poca desregulación”.

Biden tiene práctica en hablar sobre la amenaza que Trump representa para la democracia. Es claramente lo que lo motiva en esta campaña. Pero él, no Trump, es el titular, y Biden ha carecido de un marco simple para contar la historia de su presidencia, uno que equilibre lo que ha logrado con lo que los estadounidenses todavía consideran no hecho, y que recuerde a los votantes lo que heredó sin dejar de exponer una visión de hacia dónde se dirige.

“Convertir el revés en regreso”, dijo Biden el jueves. «Eso es lo que hace Estados Unidos». Es un buen mensaje. Y tiene el beneficio añadido de ser verdad.

(*) Ezra Klein es columnista de The New York Times

Temas Relacionados

Comparte y opina:

Steve Bannon sabe algo

/ 16 de enero de 2022 / 01:53

En Politics Is for Power, el libro de 2020 de Eitan Hersh, politólogo de Tufts, retrató con gran nitidez (e intensidad) un día en la vida de muchos sujetos obsesionados con la política.

“Actualizo las historias de Twitter para mantenerme al tanto de la crisis política del momento, luego reviso Facebook para leer noticias ciberanzuelo y en YouTube veo un collage de clips impactantes de la audiencia más reciente ante el Congreso. A continuación, me quejo con mi familia de todo lo que no me gustó de eso que vi.

” En opinión de Hersh, eso no es política. Podría decirse que es una “afición por la política”. “Una tercera parte de los estadounidenses dice que le dedica por lo menos dos horas al día a la política”, escribe. “De estas personas, cuatro de cada cinco afirman que ni un solo minuto de ese tiempo invertido se relaciona con algún tipo de trabajo político real. Solo son noticias televisadas, algunos pódcast, programas de radio, redes sociales y elogios, críticas y quejas compartidas con los amigos y la familia”.

Hersh considera que es posible definir el trabajo político real como la acumulación intencional y estratégica de poder al servicio de un fin determinado. Es acción al servicio del cambio, no información al servicio de la indignación.

Necesitamos un plan B para la democracia. El plan A era aprobar los proyectos de ley H.R. 1 y de Promoción del Derecho al Voto John Lewis. Parece que ninguno de esos proyectos llegará al escritorio del presidente Biden. Si quieren proteger la democracia, los demócratas deben ganar más elecciones. Para lograrlo, necesitan asegurarse de que la derecha trumpista no corrompa la maquinaria electoral local del país.

Algunas personas ya trabajan en el Plan B. Esta semana, le pregunté a Ben Wikler, presidente del Partido Demócrata en Wisconsin, qué se sentía estar en las primeras líneas de defensa de la democracia estadounidense. Me respondió cómo se sentía. Cada día lo consume una tremenda obsesión por las contiendas a las alcaldías de poblados de 20.000 habitantes, porque esos alcaldes se encargan de designar a los secretarios municipales que toman la decisión de retirar los buzones para las boletas enviadas por correo, y pequeños cambios en la administración electoral podrían ser la diferencia entre ganar el escaño del senador Ron Johnson en 2022 (y tener la posibilidad de reformar la democracia) y perder esa contienda y el Senado. Wikler está organizando a voluntarios que se encarguen de centros telefónicos para convencer a personas con fe en la democracia de convertirse en funcionarios municipales de casilla, pues la misión de Steve Bannon ha sido reclutar a personas que no creen en la democracia para que trabajen en casillas municipales.

Tengo que reconocerle esto a la derecha: se fija muy bien dónde radica el poder dentro del sistema estadounidense, algo que la izquierda a veces no hace. Esta táctica, que Bannon designa “estrategia de distrito electoral”, le está funcionando. “De la nada, personas que nunca antes habían mostrado interés alguno en la política partidista comenzaron a comunicarse a las oficinas generales del Partido Republicano local o a asistir en grandes números a las convenciones de condado, dispuestas a servir en un distrito electoral”, según informa ProPublica.

La diferencia entre quienes se organizan a nivel local para moldear la democracia y aquellos que hacen rabietas nada productivas sobre el retroceso democrático me recuerdan aquel adagio sobre la guerra: los aficionados debaten sobre estrategia; los profesionales, sobre logística. Ahora, los trumpistas hablan de logística.

La frustrante estructura política de Estados Unidos crea dos disparidades que fastidian a los posibles defensores de la democracia. La primera es de índole geográfica. El país ataca elecciones celebradas en Georgia y Wisconsin, y si vives en California o Nueva York, te quedas con una sensación de impotencia.

Una queja constante entre quienes trabajan para ganar estos cargos es que los progresistas donan cientos de millones a campañas presidenciales y apuestas improbables contra los republicanos mejor posicionados, mientras que los candidatos locales de todo el país no reciben financiamiento.

La segunda disparidad es de carácter emocional. Si temes que Estados Unidos se esté inclinando hacia el autoritarismo, deberías apoyar a candidatos, organizar campañas y hacer donaciones a causas que directamente se centren en la crisis de la democracia. Por desgracia, pocas elecciones locales se organizan como referendos sobre la gran mentira de Trump. Se concentran en la recolección de basura y regulaciones sobre la emisión de bonos para recaudar dinero, en el control del tráfico, el presupuesto y la respuesta en caso de desastre.

Ezra Klein es columnista de The New York Times.

Comparte y opina:

Trump, un lobo disfrazado de lobo

/ 9 de enero de 2021 / 04:40

Al respaldar al presidente de manera incondicional, las élites republicanas ayudaron a que sucediera el asalto al Capitolio.

Durante años, ha existido un mantra que los republicanos recitan para consolarse acerca del presidente Trump, tanto por las cosas que dice como por el apoyo que le ofrecen. Según ellos, Trump debe ser tomado en serio, pero no literalmente. La frase proviene de un artículo de Salena Zito publicado en The Atlantic, en 2016, en el que se quejaba de que la prensa se tomaba a Trump “literalmente, pero no en serio; sus seguidores lo toman en serio, pero no literalmente”.

Para las élites republicanas, se trató de un argumento muy útil. Si las palabras de Trump se entendían como una serie de capas de exageración y estilo folklórico, diseñadas para provocar a los pedantes de los medios de comunicación pero perfectamente comprensibles para sus partidarios comunes y corrientes, entonces, mucho de lo que sería demasiado grotesco o falso como para poder ser aceptado de manera literal podría respaldarse cuidadosamente, en el mejor de los casos, o simplemente ignorarse como un mal chiste en las peores ocasiones. Y las élites republicanas podían caminar por la cuerda floja entre acabar con su reputación o enfurecer al líder de su partido, mientras culpaban a los medios de comunicación por caricaturizar al trumpismo al reportar con precisión las palabras de Trump.

El miércoles, en el Capitolio, los que se tomaron a Trump en serio y los que se lo tomaron literalmente chocaron de manera espectacular. Dentro del edificio, un grupo de senadores republicanos, liderados por Ted Cruz y Josh Hawley, formulaban un desafío irresponsable a los resultados del Colegio Electoral. No tenían ninguna oportunidad de anular los resultados y lo sabían. No tenían pruebas de que los resultados debían anularse y lo sabían. Y no actuaron, ni hablaron, como si realmente creyeran que la elección había sido robada. Estaban allí para tomar en serio las preocupaciones de Trump, no literalmente sino con la esperanza de que los seguidores del mandatario pudieran convertirse en sus seguidores en 2024.

Pero, al mismo tiempo, Trump les estaba diciendo a sus seguidores que le robaron las elecciones y que ellos tenían que resistir. Y lo tomaron literalmente. No experimentaron eso como la actuación de un agravio; lo vieron como un asalto profundo. Irrumpieron en el Capitolio, atacaron a oficiales de policía, destrozaron puertas, barreras y saquearon las oficinas del Congreso. En medio del caos, una mujer recibió un disparo y falleció.

La gran virtud de Trump, como figura pública, es su literalidad. Sus declaraciones pueden estar plagadas de mentiras, pero es honesto acerca de quién es y qué pretende. Cuando se le preguntó, durante los debates presidenciales de 2020, si se comprometería a una transferencia pacífica del poder en caso de una derrota, se negó. No hubo subterfugios por parte de Trump para los terribles eventos del 6 de enero. Invocó esta oportunidad, una y otra vez, hasta que sucedió. El Partido Republicano que ha ayudado e instigado a Trump es igual de despreciable, o más, porque inundan la prensa con citas asegurando que saben algo más.

A menudo, la era Trump ha estado envuelta en un manto de ironía autoprotectora. Se nos ha pedido que separemos al hombre de sus tuits, que creamos que Trump no quiere decir lo que dice, que no tiene la intención de actuar según sus convicciones, que no es lo que obviamente es. Cualquier divergencia entre la palabra y la realidad se ha incluido en ese principio. El hecho de que Trump no haya logrado mucho de lo que prometió debido a su incompetencia y distracción ha sido reformulado como una señal de una situación más delicada. Las limitaciones impuestas sobre él por otras instituciones o actores burocráticos se han reformulado como evidencia de que nunca tuvo la intención de seguir adelante con sus declaraciones más salvajes. Esa fue una ficción conveniente para el Partido Republicano, pero fue una fantasía desastrosa para el país. Y ahora se ha derrumbado.

Cuando los literalistas se apresuraron a entrar en la cámara, Pence, Cruz y Hawley estaban entre los que tuvieron que ser evacuados, por su propia seguridad. Algunos de sus compatriotas, como la senadora Kelly Loeffler, rescindieron sus objeciones a la elección, aparentemente conmovidos por la bestia que habían creado. Pero no hay un refugio real del movimiento que alimentaron. Las legiones de Trump todavía están ahí afuera, y ahora están de luto por una muerte y se sienten aún más engañados por muchos de sus supuestos aliados en Washington, quienes se volvieron contra ellos tan pronto como hicieron lo que pensaron que se les había pedido.

El problema no son los que tomaron en serio la palabra de Trump desde el principio. Son los muchos, muchos republicanos electos que no lo tomaron en serio, ni literalmente, sino con cinismo. Ellos han desencadenado esto sobre sus cabezas, y sobre las nuestras.

    Ezra Klein es columnista de The New York Times.

  

Comparte y opina: