La Revista

Monday 24 Jun 2024 | Actualizado a 09:47 AM

OpenAI no invierte lo suficiente para investigar los riesgos de la supeinteligencia, según exdirectivo

La empresa informó que emplearán un 20% de sus ingresos para que un equipo se dedique a la investigación de cualquier posible riesgo.

Logo de OpenAI

Por Europa Press

/ 20 de mayo de 2024 / 15:13

OpenAI creó un equipo centrado exclusivamente en la investigación y control de la futura tecnología de superinteligencia, pero no está invirtiendo los recursos necesarios para facilitar la labor de este equipo, impidiendo así obtener soluciones a los peligros que presenta esta tecnología para la sociedad, según el investigador y líder del equipo, Jan Leike, que recientemente anunció su dimisión.

La superinteligencia será una tecnología «mucho más inteligente» que las capacidades actuales de los humanos. Se podrán resolver «muchos de los problemas más importantes del mundo», como expone la compañía dirigida por Sam Altman. Sin embargo, esta tecnología también puede conllevar situaciones «muy peligrosas», como la pérdida de poder de la humanidad o «incluso su extinción».

Puede leer: Blue Origin lleva pasajeros al espacio, incluido el astronauta con más edad (90 años)

‘Superinteligencia’

En este marco, OpenAI anunció en julio del pasado año la creación de un nuevo equipo conformado por investigadores e ingenieros de aprendizaje automático. El mismo fue diseñado para investigar y obtener soluciones con las que dirigir y controlar estos sistemas de IA «superinteligentes».

Así, la tecnológica indicó que emplearía el 20% de sus ingresos y capacidades informáticas para el trabajo de este nuevo equipo.

Ahora, uno de los líderes de este equipo, Jan Leike, dimitió y advirtió que «cada vez era más difícil realizar esta investigación crucial» sobre la superinteligencia. Esto debido a que OpenAI no invirtió los recursos necesarios para facilitar su labor.

«Necesitamos urgentemente descubrir cómo dirigir y controlar sistemas de IA mucho más inteligentes que nosotros», sentenció Leike. A su vez señaló que OpenAI debe invertir más en prepararse para «las próximas generaciones de modelos» de IA.

En concreto, tal y como compartió en una publicación en X, las prioridades de la compañía deberían centrarse en la seguridad, la monitorización de actividad de la IA, la preparación, la protección, la solidez adversarial, la confidencialidad y el impacto social, entre otros temas relacionados con esta tecnología y su impacto.

Sin embargo, Leike manifestó que estuvo «en desacuerdo» con el liderazgo de OpenAI sobre las prioridades centrales de la compañía. Le preocupa que la tecnológica «no esté en el camino correcto». Esto se debe a que durante los últimos años la cultura y los procesos de seguridad «han pasado a un segundo plano». Sobre todo frente a la creación de productos de alta potencia y más llamativos para los usuarios.

Con todo ello, Leike subrayó que construir máquinas más inteligentes que los humanos «es una tarea intrínsecamente peligrosa». Recordó que «OpenAI asume una enorme responsabilidad en nombre de toda la humanidad».

‘Mucho por mejorar’

Por su parte, Sam Altman reconoció en una publicación en X que «hay mucho más por hacer». Afirmó que, desde OpenAI, están «comprometidos» en continuar trabajando en este proceso de investigación.

Igualmente, también se pronunció el cofundador de OpenAI, Greig Brockman. Puntualizó que necesitan «un circuito de retroalimentación muy estrecho», así como pruebas rigurosas y una «consideración cuidadosa» en cada paso, de cara a continuar ofreciendo capacidades de IA, pero de forma segura.

Con ello, indicó que seguirán realizando investigaciones de seguridad dirigidas a «diferentes escalas de tiempo», además de colaborar con los gobiernos y partes interesadas en materia de seguridad. «Nos tomamos muy en serio nuestro papel aquí y sopesamos cuidadosamente los comentarios sobre nuestras acciones», insistió.

Ahora, tras la salida de Leike y de otro de los líderes del equipo enfocado en la tecnología de superinteligencia, Ilya Sutskever, el equipo de investigación pasó a estar encabezado por otro cofundador de OpenAI, John Schulman.

Temas Relacionados

Comparte y opina:

Scholz, ‘preocupado’ por el resultado de las elecciones parlamentarias en Francia

"Estoy preocupado por las elecciones en Francia. Quiero decirlo claramente", afirmó el Canciller alemán.

El canciller alemán, Olaf Scholz, expresó su preocupación por el ascenso de la ultraderecha en Francia.

Por Europa Press

/ 23 de junio de 2024 / 21:15

El canciller alemán, Olaf Scholz, expresó este domingo su preocupación por el resultado de las elecciones parlamentarias anticipadas que se celebrarán este fin de semana en Francia, ya que la extrema derecha parte como favorita, según los sondeos, después de que ganara en los eurocomicios de principios de mes.

«Estoy preocupado por las elecciones en Francia. Quiero decirlo claramente. Y espero que los partidos que no son (el de la ultraderechista Marine) Le Pen, por así decirlo, tengan éxito en las elecciones. Pero eso lo decidirán los franceses», afirmó en una entrevista en la cadena de televisión pública alemana ARD, en referencia a la formación Agrupación Nacional.

El político del Partido Socialdemócrata (SPD) explicó que, si bien seguirá coincidiendo con el presidente francés, Emmanuel Macron, porque la Presidencia del país no está en juego al ser unas elecciones legislativas y no presidenciales, un nuevo Parlamento de extrema derecha «supondrá un cambio».

Macron anunció un adelanto electoral después de que Agrupación Nacional fuera en partido de Francia más votado en las elecciones al Parlamento Europeo. Desde entonces, se ha producido un terremoto político en el país, uno de los principales socios de Alemania en el continente, con un Nuevo Frente Popular que agrupa a la izquierda para enfrentarse tanto a la ultraderecha como a Macron.

Lea también: Macron adelanta elecciones en Francia tras victoria de ultraderecha en las europeas

CONDICIONAMIENTO

Agrupación Nacional sería el claro vencedor de las elecciones legislativas que se celebrarán el 30 de junio y el 7 de julio a dos vueltas en Francia con un 36 por ciento de voto, muy por delante del Nuevo Frente Popular de izquierda (27 por ciento) y de la coalición de centro que apoya al presidente Emmanuel Macron (20 por ciento), según un sondeo publicado este domingo.

La formación de Le Pen conseguiría así entre 250 y 280 diputados, cerca de la mayoría absoluta situada en los 289 escaños. Con estos resultados, el presidente de Agrupación Nacional, Jordan Bardella, no optaría a ser primer ministro, ya que prometió que no optaría al cargo sin una mayoría absoluta.

El Nuevo Frente Popular lograría entre 150 y 170 escaños, mientras que los partidos de la actual mayoría presidencial se situarían en tercer puesto con entre 90 y 110 escaños, muy lejos de los 245 actuales.

Comparte y opina:

EEUU advierte de que una ofensiva israelí en Líbano puede provocar la intervención de Irán

Israel anunció hace apenas unos días que había "aprobado y validado" los planes para una ofensiva militar en Líbano pese a las advertencias de Washington.

El jefe del Estado Mayor Conjunto de Estados Unidos, el general Charles Brown, advirtió sobre las consecuencias de una escalada en el conflicto entre Israel y Hezbolá.

Por Europa Press

/ 23 de junio de 2024 / 19:17

El jefe del Estado Mayor Conjunto de Estados Unidos, el general Charles Brown, advirtió este domingo de que una ofensiva militar israelí en territorio libanés podría provocar una respuesta de Irán y una guerra a mayor escala.

Irán «sería más propensa a apoyar a Hezbolá», según Brown, que cree que Teherán apoya al grupo palestino Hamás, pero respaldaría más al grupo libanés «en particular si consideran que Hezbolá está siendo amenazada significativamente», recoge la prensa estadounidense que acompaña a Brown a un viaje a Botswana para reunirse con ministros de Defensa africanos.

Israel anunció hace apenas unos días que había «aprobado y validado» los planes para una ofensiva militar en Líbano pese a las advertencias de Washington, principal aliado israelí. El propio Brown indicó que Estados Unidos sigue trabajando con los dirigentes israelíes para evitar que se propague el conflicto.

Así, uno de los mensajes clave es «pensar en los efectos secundarios de cualquier tipo de operación en Líbano y en cómo resultaría y cómo afectaría no solo a la región, sino también a nuestras fuerzas desplegadas en la región también».

Lea también: Jefe del Hezbolá libanés advierte que ningún lugar de Israel estará a salvo en caso de guerra

‘CICLO DE SUFRIMIENTO’

El máximo responsable diplomático de la Unión Europea, Josep Borrell, denunció por su parte un «ciclo de sufrimiento» en la Franja de Gaza en repulsa a uno de los días más sangrientos desde el comienzo de la guerra entre Israel y Hamás.

Un ataque israelí ocurrido el sábado el campo de refugiados de Al Shati se saldó con al menos 40 fallecidos, después de que horas antes otras 22 personas murieran en otro bombardeo próximo a las oficinas del Comité Internacional de la Cruz Roja. Israel ha defendido respectivamente que el ataque contra Al Shati y alrededores iba destinado contra dos posiciones de Hamás y que no tiene constancia de que haya atacado directamente la sede humanitaria.

Sea como fuere, Borrell enumeró la absoluta falta de progresos a la hora de resolver un conflicto que se expande y se agrava a cada día que pasa.

Los rehenes en manos de las milicias palestinas «siguen bajo cautiverio», mientras que el riesgo de «un conflicto abierto entre Israel y Hezbolá es cada día más «real». Además, en Cisjordania «ya se avecina el colapso económico mientras aumenta la violencia» del Ejército israelí y los colonos contra la población palestina.

‘CONSTERNADO’

«La falta de respeto a las resoluciones de la Corte Internacional de Justicia y el Consejo de Seguridad de la ONU», que instan a la actuación de ambas partes con respeto al Derecho Internacional, «es flagrante y todavía continúa, y sigue sin existir una mejoría en el acceso y la entrega de ayuda humanitaria».

Borrell, en particular, se declara «consternado» por declaraciones como las efectuadas por la directora ejecutiva del Programa Mundial de Alimentos de la ONU, Cindy McCain, o por la Organización Munidial de la Salud sobre la situación crítica que atraviesa el enclave gazatí en este aspecto, mientras la oficina para los Derechos Humanos de Naciones Unidas continúa documentando «ataques tan desproporcionados como indiscriminados».

«Instamos una vez más a todas las partes a poner fin a este ciclo de sufrimiento y destrucción», remachó Borrell en un mensaje publicado en su cuenta de la red social X.

Comparte y opina:

Orbán asegura que la migración será su prioridad durante la presidencia rotatoria de la UE

Según la oficina estadística europea Eurostat, el año pasado solo se presentaron 30 solicitudes iniciales de asilo en Hungría, mientras en Alemania hubo algo menos de 330.000.

El primer ministro de Hungría, Viktor Orbán (imagen de archivo).

/ 22 de junio de 2024 / 23:07

El primer ministro húngaro, Viktor Orbán, ha defendido este sábado que la migración será una prioridad de la próxima presidencia rotatoria de la Unión Europea, que Hungría ejercerá durante seis meses a partir del próximo 1 de julio.

El jefe del Ejecutivo húngaro ha subrayado que «resolver el problema migratorio» será uno de los ejes de la Presidencia del Consejo de la Unión Europea —que se ejerce por rotación semestral— en el segundo semestre de 2024, cuando releve a Bélgica.

Desde Berlín, el mandatario húngaro ha acogido con satisfacción la posición del canciller alemán, Olaf Scholz, que sopesa la posibilidad de externalizar los procedimientos de asilo a países no pertenecientes a la Unión Europea.

Estas declaraciones llegan después de que Scholz anunciara este jueves que el Gobierno federal seguirá examinando los procedimientos de asilo en países no pertenecientes a la UE y presentará resultados concretos antes de diciembre.

Lea también: Parlamento Europeo aprobó la controvertida reforma de su política migratoria

‘PUNTOS CALIENTES EXTERIORES’

En una entrevista al grupo de medios alemán Funke, Orbán ha asegurado que su Gobierno ya hace esto en los llamados «puntos calientes exteriores» en terceros países antes de dar luz verde a los solicitantes para entrar en el país.

«Si los inmigrantes quieren venir a Hungría, primero deben ponerse en contacto con una embajada húngara, por ejemplo, en Belgrado, la capital serbia», ha explicado el primer ministro.

«Resulta que tenía razón sobre mis advertencias», ha declarado en alusión a la crisis de refugiados de 2015, cuando el mandatario alertó a otros gobiernos europeos sobre su gestión de las fronteras. «Corréis un enorme riesgo si abrís vuestras fronteras a la inmigración ilegal (…). Esperemos a ver cómo será la sociedad alemana o francesa dentro de 10, 15 o 20 años», dijo entonces.

En esta línea, Orbán ha defendido su política migratoria, argumentando que «el concepto de sociedad que (entonces) percibí con los refugiados es demasiado arriesgado para los ciudadanos húngaros».

Comparte y opina:

Rusia destruye cerca de una veintena de drones ucranianos sobre la región de Briansk

Estos ataques llegan después de que al menos tres personas hayan muerto y 56 más hayan resultado heridas este mismo sábado por un bombardeo ruso sobre la ciudad de Járkov.

Militares ucranianos maniobran un dron antes de cumplir una misión en el frente de batalla.

/ 22 de junio de 2024 / 22:55

Las fuerzas de defensa antiaérea del Ejército de Rusia han interceptado cerca de una veintena de drones procedentes de territorio ucraniano sobre la región rusa de Briansk, han informado las autoridades locales pasada la medianoche del sábado.

En un primer momento, el gobernador regional, Alexander Bogomaz, ha notificado vía Telegram la destrucción de doce vehículos aéreos no tripulados de «los neonazis ucranianos» en una hora, como parte de «un ataque masivo».

Bogomaz ha matizado que dos de esos drones sobrevolaron el distrito de Trubchevski, otros ocho fueron derribados sobre el territorio de Brasovski y los dos restantes, en Pochepski.

No obstante, según el mismo informe, no se han reportado ni víctimas ni daños y los servicios de emergencia se encuentran ya sobre el terreno para brindar asistencia.

Lea también: Nuevos bombardeos rusos contra infraestructuras energéticas de Ucrania

MÁS DRONES DERRIBADOS

El mismo Bogomaz ha comunicado, apenas una hora más tarde y también a través de Telegram, que las fuerzas de defensa aérea del Ministerio de Defensa ruso habían destruido «otros nueve vehículos aéreos no tripulados enemigos». De nuevo, sin daños ni heridos.

«Cuatro drones han sido derribados sobre el territorio del distrito de Dubrovski y dos sobre la región de Briansk. Un vehículo aéreo no tripulado ha sido destruido sobre los territorios de los distritos municipales de Klintsovski, Novozibkovsk y Starodubski», ha especificado.

Estos ataques llegan después de que al menos tres personas hayan muerto y 56 más hayan resultado heridas este mismo sábado por un bombardeo ruso sobre la ciudad de Járkov, la capital de la región homónima y bajo disputa en el este de Ucrania, según han denunciado las autoridades ucranianas.

Temas Relacionados

Comparte y opina:

Egipto suspende licencia de 16 empresas turísticas por peregrinaciones irregulares en el Hajj

Egipto ha estimado que 50.752 peregrinos han viajado de manera regular a Arabia Saudí durante el viaje a La Meca, pero no existe forma de saber cuántos lo han hecho por vías no legales.

Fieles musulmanes rezan alrededor de la Kaaba, el santuario más sagrado del Islam, en la Gran Mezquita de la ciudad santa de La Meca, en Arabia Saudita.

/ 22 de junio de 2024 / 22:42

El primer ministro de Egipto, Mustafá Madbuli, ha ordenado la suspensión inmediata de las licencias de 16 empresas turísticas implicadas en peregrinaciones irregulares durante el Hajj de este año a La Meca en medio de la crisis internacional abierta en el mundo musulmán por la muerte de cientos de fieles debido a las altas temperaturas.

«Al menos 16 empresas turísticas defraudaron y trasladaron de manera ilegal a los peregrinos, a los que no proporcionaron servicio alguno», según un comunicado publicado por la oficina del Primer Ministro en su página web.

«Por lo tanto, el primer ministro ha dado instrucciones de retirar rápidamente las licencias de estas empresas y denunciar a los responsables», añade.

Lea también: Islam: peregrinos cuentan el horror del calor durante el hach en La Meca

OLA DE CALOR

Egipto ha estimado que 50.752 peregrinos han viajado de manera regular a Arabia Saudí durante el viaje a La Meca, pero no existe forma de saber cuántos lo han hecho por vías no legales.

Al menos 470 peregrinos musulmanes han muerto durante la celebración este año del tradicional viaje a La Meca y otros lugares sagrados del islam en Arabia Saudí por la ola de calor que ha registrado temperaturas de hasta 50ºC en el reino árabe.

Indonesia ha confirmado 213 muertos y Jordania ha informado de 75 fallecidos, mientras que India ha verificado 98 muertos por 68 de Jordania, 49 de Túnez, 14 de Malasia y cuatro rusos. Egipto ha constatado 28 muertos, pero medios nacionales avisan que la cifra real podría ser de varios centenares. Las autoridades iraníes hablan de once fallecidos y Senegal ha constatado tres muertos.

Comparte y opina: