Author: rb809rb

Alex Karp, CEO de Palantir, ha situado el debate sobre la seguridad de la inteligencia artificial en un terreno hasta ahora poco habitual entre los grandes ejecutivos tecnológicos: la posible nacionalización de las empresas de IA. El directivo sostiene que el desarrollo de modelos cada vez más potentes puede generar responsabilidades civiles y penales difíciles de asumir únicamente por compañías privadas, especialmente cuando la tecnología entra en ámbitos críticos.

“Estas empresas tienen que ser nacionalizadas porque, si no las nacionalizas, todos y cada uno de mis clientes me van a demandar”, afirmó Karp durante una entrevista con CNBC. Su planteamiento parte de lo que describe como los “riesgos ilimitados” de la inteligencia artificial y de la dificultad para establecer reglas capaces de cubrir todos los escenarios que pueden surgir cuando estos sistemas se despliegan a gran escala.

El CEO de Palantir defiende la creación de unas normas “razonables” para controlar el desarrollo y uso de esta tecnología, aunque considera que cualquier regulación debe ir acompañada de responsabilidades claras para quienes construyen los modelos. “Tienes que encontrar una forma de establecer unas directrices razonables que se hagan cumplir, pero no puedes hacerlo”, señaló Karp, antes de añadir: “La primera línea de defensa es que eres responsable de tus propios actos”.

El debate sobre la regulación de la IA

Las declaraciones llegan mientras aumenta la discusión entre responsables tecnológicos y legisladores estadounidenses sobre cómo gestionar los modelos de IA más avanzados. Karp insistió en que los desarrolladores que actúen de forma irresponsable deberían afrontar consecuencias civiles y penales. “Tenemos que ponernos serios”, aseguró al referirse a las capacidades alcanzadas por las últimas generaciones de sistemas de inteligencia artificial.

TE PUEDE INTERESAR

Del ‘Incidente’ a la superinteligencia: la verdad que hay detrás de la ‘rebelión de las máquinas’ (y lo que nos espera)

POR
Manuel Ángel Méndez
Vídeo: Alejandro Corral

La preocupación no se limita a Palantir. Según la información facilitada por CNBC, Dario Amodei, CEO de Anthropic, ha pedido ralentizar el desarrollo de la inteligencia artificial de frontera, mientras que otros ejecutivos, entre ellos Sam Altman y Elon Musk, también han reclamado mecanismos de regulación. Frente a estas posiciones, otros responsables tecnológicos, como Jensen Huang y Mark Zuckerberg, han mostrado enfoques diferentes sobre cómo abordar los riesgos y la supervisión de estos sistemas.

La presión regulatoria también ha llegado al Congreso de EEUU. El senador Richard Blumenthal, impulsor de legislación sobre seguridad de la IA, ha reclamado algún tipo de revisión objetiva antes de lanzar determinados modelos, mientras otros legisladores han planteado incluso un denominado kill switch que permitiría detener sistemas problemáticos. El planteamiento de Karp lleva ese debate un paso más allá: si las responsabilidades económicas y legales derivadas de la inteligencia artificial superan la capacidad de las empresas privadas, el propio Estado podría terminar asumiendo un papel directo en su control.

Alex Karp, CEO de Palantir, ha situado el debate sobre la seguridad de la inteligencia artificial en un terreno hasta ahora poco habitual entre los grandes ejecutivos tecnológicos: la posible nacionalización de las empresas de IA. El directivo sostiene que el desarrollo de modelos cada vez más potentes puede generar responsabilidades civiles y penales difíciles de asumir únicamente por compañías privadas, especialmente cuando la tecnología entra en ámbitos críticos.

Los minutos previos al despegue de un cohete siempre se viven con expectación y, sobre todo, con muchísima tensión. La carga que viaja a bordo es demasiado valiosa desde el punto de vista geopolítico, científico y económico. Nada puede fallar. Pues esa coreografía milimétrica que sucede en los cuatro minutos previos a que un Vega viaje al espacio, the final countdown, tiene firma española. Fue el ingeniero Ignasi Pardos Biarnes (Barcelona, 1975) quien la diseñó. Por eso, hace 14 años, el catalán fue el elegido para pulsar el botón que activó el vuelo inaugural de este lanzador estratégico de la Agencia Espacial Europea (ESA).

Desde entonces, reformulaciones, nuevos modelos y una tasa de éxito del 90%. Tres fallos, como el fiasco en el primer vuelo oficial de Vega-C que acabó con dos satélites perdidos; y 27 éxitos, como el de la semana pasada en el que FLEX y Sentinel-3C, que vigilarán la sequía y nuestras cosechas, partieron desde el Puerto Espacial de Kurú (Kourou, en francés). Hasta esta localidad de la Guayana Francesa viene Pardos para cada lanzamiento, como hizo durante la reciente misión euro-china Smile. Se desplaza allí desde 2009, cuando arrancaron las pruebas del primer Vega; en aquel entonces llegó a vivir dos años de forma permanente.

Ahora, el responsable de ingeniería y del sistema de lanzamiento Vega vive en Roma y trabaja en ESRIN, el Centro de la ESA desde donde se gestionan las misiones para la Observación de la Tierra, convenientemente cerca de una de las sedes de la italiana Avio donde también tiene presencia la francesa Arianespace, operadores socios. Pardos y su equipo, donde cuenta con otros dos españoles, controlan y blindan que nada comprometa el viaje de nuestros cohetes. Un viaje que arranca en Europa pero continúa en colosales fábricas de montaje en mitad de la selva amazónica.

PREGUNTA. ¿Cómo acaba un ingeniero español apretando el botón que inicia la cuenta atrás de un cohete europeo en la Guayana Francesa?

RESPUESTA. Apreté el botón del primer Vega en el año 2012 porque empecé a trabajar en el proyecto en 2006. Me encargaba del desarrollo del software de todos los sistemas de tierra para los controles de integración del lanzador y la puesta a punto, para verificar que todo estaba listo para el lanzamiento. Una de las actividades de las que me ocupé fue el diseño y el desarrollo de la secuencia de countdown, la cuenta atrás, que sirve para encender todos los motores del cohete, todos los equipos eléctricos y hacer las últimas verificaciones para estar listos cuando llegue el tiempo del momento del lift-off (despegue).

P. ¿Esa secuencia es la misma que se utiliza ahora en todos los lanzamientos de los Vega, como el Vega-C?

R. Sí, pero en el Vega-C, que es una versión mejorada del cohete, se han introducido algunos cambios que han impactado en el diseño de la secuencia final. La hemos tenido que adaptar para que encaje con el diseño de los nuevos equipos, de las nuevas baterías y de los nuevos sistemas.

P. ¿Cómo es la cuenta atrás?

R. El operador la lanza de forma completamente automática a partir de los -4 minutos. Se ocupa de gestionar los últimos pasos para poner el lanzador en la configuración adecuada para el despegue: conmutar los sistemas de alimentación de tierra a las baterías a bordo, encender los motores de actuación de los nozzles o toberas (la parte final del motor), hacer una pequeña actuación, armar el cohete y ceder el control al computador a bordo, que es el que gestionará las últimas operaciones, las últimas comprobaciones desde -5 segundos hasta el momento exacto del despegue (H0).

TE PUEDE INTERESAR

¿Ves ese cohete? Los dos satélites que lleva sabrán qué cosechas van a morir de sed antes de que ocurra

POR
Patricia Ruiz Guevara. Kurú (Guayana Francesa)

P. ¿Entonces ninguno de estos pasos recae en personal técnico e ingenieros?

R. Es todo automatización y es fundamental que no haya intervención humana a partir de cierto momento, porque podríamos interferir con las operaciones. Dejamos total autonomía al cohete para que tome las decisiones. Si ve que hay algún check final que no es correcto, es él quien nos va a volver a dar el control a nosotros. Nos avisará y nos cederá el paso para que activemos la seguridad.

Un fallo de 350 millones de euros

Que ese protocolo de cuenta atrás funcione es importantísimo, pero también lo es que el cohete y sus materiales lleguen en perfectas condiciones. En diciembre de 2022, una anomalía en el Vega-C provocó la pérdida de su primer vuelo comercial. La trayectoria del lanzador se desvió de la ruta prevista y los datos dejaron de llegar a la sala de control de Kurú; la misma desde la que hacemos esta entrevista. Se ordenó la autodestrucción del cohete por motivos de seguridad. Con él, volaron por los aires dos satélites comerciales de observación terrestre que iban a bordo. El fin de la misión VV22 supuso un revés a nivel estratégico para el sector espacial europeo, y también económico. Las pérdidas totales se valoraron en más de 350 millones de euros.

Después de aquello, se necesitaron dos años para rediseñar el Vega-C y que volviera a volar. Como parte de los procesos de comprobación para que nada así vuelva a suceder, Pardos se dedica a verificar que todas las operaciones del vuelo y también del retorno de los satélites a su debido tiempo no se vean alteradas por las evoluciones que se puedan implementar. “Vigilamos las decisiones que se toman y las distintas anomalías que pueda haber durante todo el proceso, desde la fabricación hasta las fases finales de integración”, explica el ingeniero industrial. También lo hace para la próxima generación de lanzadores europeos. No es para menos; Europa no tiene músculo espacial que malgastar.

P. ¿Por qué falló el Vega-C en 2022?

R. Cuando pasamos de Vega a Vega C se cambió el proveedor de un material que está sometido a cargas electromecánicas muy importantes y a altísimas temperaturas. Así que tiene que tener unas propiedades termoelásticas muy determinadas. Pero el nuevo proveedor proporcionó un material que no mantenía las características durante todo el proceso de producción. Entonces sufrió una degradación desde que lo calificamos hasta que lo utilizamos en el vuelo que falló. Fue un incidente bastante desafortunado del que sacamos lecciones aprendidas.

P. Desde entonces no se ha repetido ningún incidente de ese tipo, ¿cómo lo habéis evitado?

R. Lo corregimos cambiando el proveedor, que ahora es de nuevo ArianeGroup, y así monitorizamos que haya una continuidad total durante el flujo de producción en los vuelos sucesivos. Lo que pasó nos hizo aprender que tenemos que verificar de manera exhaustiva que los márgenes de calificación que obtenemos durante los tests se mantienen durante la producción.

P. La ciencia de materiales es una de las partes más complejas y delicadas para la fabricación de un cohete, ¿ha evolucionado en los últimos años?

R. Sí, ha habido mucha innovación, pero también es cierto que la propulsión sólida es un contexto muy concreto que se basa en tecnología militar. El conocimiento heredado de las antiguas misiones se mantiene, con lo cual el nivel de mejora es más reducido. Donde estamos introduciendo mayor innovación es en el ámbito de la propulsión líquida.

P. Precisamente, Vega-C mantiene una fuerte base de propulsión sólida, pero el sector está avanzando hacia la líquida. También vosotros, con el nuevo Vega-E. ¿Por qué este cambio?

R. Estamos intentando aumentar la capacidad de carga para poder lanzar satélites más pesados. En ese sentido, Vega-E es la próxima generación de lanzadores que estamos desarrollando en la agencia junto con Avio, y la mayor evolución que estamos introduciendo es la criogenia. Será un motor propulsado por oxígeno líquido y metano que tendría que garantizarnos un aumento del rendimiento de aproximadamente en torno al 20 % más de masa, en la misma órbita, al mismo precio o a precio reducido. Para conseguirlo el nuevo cohete tendrá tres etapas en lugar de cuatro. Esto disminuye los costes de producción y de integración.

P. ¿Por qué necesita Europa capacidad para cargas más pesadas?

R. Hay una petición cada vez mayor de satélites más grandes con instrumentos más potentes. Los telescopios cada vez son más grandes, los radares tienen unas antenas que cuando se despliegan son increíblemente enormes. Lo estamos viendo con la nueva generación de Sentinels, que están desarrollando nuestros compañeros de Observación de la Tierra y Copernicus. Para poder lanzar eso tenemos que acceder a un mercado de satélites más pesados y más grandes. Con esto también aumentan las necesidades para garantizar la reentrada controlada cuando llega el final de su vida útil. Para eso se necesitan tanques más grandes de combustible dentro de los satélites, lo que también aumenta la masa final.

Dentro de una fábrica de motores en mitad de la selva

Ese combustible no viene desde Europa. Se carga en los cohetes siguiendo un mecanismo ultrapreciso dentro de instalaciones de alta seguridad en mitad de la selva de Kurú. Una de ellas es la planta de Europropulsion, participada al 50 % por la francesa ArianeGroup y la italiana Avio, donde se integran los propulsores de combustible sólido necesarios para el despegue. Un edificio altísimo, con las juntas oxidadas por la gran humedad francoguayanesa, que se mezcla con la vegetación en una imagen digna de The Last of Us. En la entrada, todos los vehículos están aparcados con el coche en posición de salida. “Por si pasa algo y hay que salir corriendo”, comenta un miembro de la ESA.

Para llegar hasta allí pasamos varios controles de acceso, dejamos todos nuestros dispositivos electrónicos en una caja antes de acercarnos al enorme edificio, y nos ponemos bata y casco de seguridad. Dentro, la cantidad de máquinas complejas y procesos es innumerable. La mayoría están automatizados para “poder construir cada vez más rápido”, nos explican. Eso también garantiza que sean milimétricos. Por ejemplo, la integración del motor sólido tiene que ajustarse con una precisión tal que el margen de error es de diez micras. Pardos nos desvela más detalles de este engranaje.

P. ¿Qué parte de la puesta a punto de los cohetes se hace en Europa y qué parte aquí?

R. En el caso de los Vega, fabricamos el chasis del motor con fibra de carbono en Europa y se manda vacío en un barco hasta la Guayana. Cuando llega, lo que se hace es el llenado de combustible en sus motores de propulsión sólida. El principal que es el P120 tiene aproximadamente 140 toneladas de peso. Son una serie de materiales bastante críticos y peligrosos de manejar; esa es la principal razón por la que lo hacemos así. Con otros motores más pequeños la normativa sí nos permite transportarlos listos para volar.

P. Todo esto se hace en mitad de la selva amazónica, donde hay intensos periodos de lluvia constante. ¿Eso condiciona los lanzamientos?

R. No, lo que nos afecta es el viento, no solo en superficie, también en altitud, hacia 50 o 100 kilómetros. Es importante que no tengamos vientos muy fuertes porque pueden afectar a la trayectoria. El otro elemento fundamental son las tormentas eléctricas, porque pueden generar efectos electromagnéticos en el lanzador que luego impactan en los sistemas electrónicos del cohete.

P. Más allá de la meteorología cambiante, ¿cómo es trabajar con tecnología puntera pero rodeado de vegetación salvaje?

R. Es un contraste enorme entre una zona que es menos desarrollada de lo que nos podemos imaginar en Europa, pero luego entras en la base y te encuentras con un salto tecnológico importante. El primer shock es cuando sales del avión, notas este calor y humedad enormes que no te abandonan durante todo el tiempo que estás aquí. Pero también te da la posibilidad de ver otra cultura y otra manera de vivir. La verdad es que nosotros estamos aquí encerrados seis días de cada siete, pero el domingo podemos ir a la selva o navegar por los ríos, y ver cosas realmente increíbles. La vegetación, los animales… Es una experiencia que vale la pena vivir.

Un marido en Taiwán sospechaba que su mujer le era infiel. En septiembre de 2023 encontró un cepillo de dientes usado en su casa de vacaciones, y una grabación del garaje mostró a un hombre desconocido llevando a su mujer hasta allí. Tres meses después, abrió la aplicación del robot aspirador y vio, a través de su cámara en directo, un encuentro íntimo entre su mujer y otro hombre.

Grabó la transmisión y la utilizó para obtener unos 16.000 dólares estadounidenses de su mujer y del amante de esta por vulnerar sus derechos matrimoniales. Después, el Tribunal de Distrito de Taoyuan lo condenó a cinco meses de prisión y le impuso una multa de aproximadamente 4.700 dólares por grabar actividad privada sin consentimiento.

Ambas sentencias son defendibles. Juntas, sin embargo, revelan una carencia preocupante: los dispositivos que hay en los hogares generan pruebas de forma continua y, a menudo, invisible, mientras que la legislación que los regula sigue siendo un mosaico incompleto. Como miembros del profesorado de una facultad de ciencias forenses interdisciplinares, observamos casos en los que la práctica forense choca con una ley que no ha sabido adaptarse.

TE PUEDE INTERESAR

La levadura puede crear bases en Marte como levanta pan en la Tierra

POR
Jesús Díaz

La casa que observa

Un robot aspirador moderno es, en realidad, una plataforma móvil de sensores. Algunos modelos combinan cámaras, micrófonos, navegación láser y acceso remoto por vídeo, mientras que los modelos conectados a una aplicación generan mapas detallados de la vivienda e historiales de limpieza. Sus datos pueden llegar, además, a los servidores del fabricante. Esta es la capacidad de vigilancia doméstica que pocos usuarios advierten al comprar el aparato.

En 2022, MIT Technology Review reveló imágenes procedentes de versiones de desarrollo del Roomba J7 de iRobot, entre ellas la de una mujer sentada en el inodoro. Las imágenes tomadas en hogares de prueba habían llegado a una empresa subcontratada de etiquetado de datos, cuyos empleados las publicaron en grupos privados de redes sociales. No hizo falta ningún ataque informático: la filtración surgió del proceso habitual empleado para entrenar programas de reconocimiento de objetos.

Testigos digitales que ya declaran ante los tribunales

Los tribunales llevan años enfrentándose a los datos generados en el hogar. La fiscalía de Arkansas acusó a James Bates de asesinato después de que un amigo suyo muriera en su jacuzzi, y solicitó las grabaciones de su altavoz Amazon Echo, además de citar datos del contador inteligente que sugerían un consumo de agua durante la noche. Amazon se resistió hasta que Bates dio su consentimiento. Sin embargo, la fiscalía no pudo descartar otras explicaciones razonables y finalmente retiró la acusación.

En Connecticut, Richard Dabate afirmó que un intruso había asesinado a su esposa, Connie. Los datos de la pulsera Fitbit de esta contradecían su versión de los hechos y ayudaron a determinar el momento en que dejó de moverse. Un jurado lo declaró culpable y, en 2025, el Tribunal Supremo de Connecticut ratificó la condena y consideró que la prueba de la Fitbit era científicamente fiable.

En Ohio, los datos del marcapasos de Ross Compton se utilizaron para rebatir su versión sobre un incendio en su vivienda, lo que planteó una cuestión novedosa respecto a la Cuarta Enmienda: ¿qué grado de protección de la intimidad debería aplicarse a los datos médicos íntimos generados por un dispositivo implantado? El tribunal terminó por confirmar la orden de registro, al apreciar causa probable, y concluyó que obtener los datos de forma remota no constituía un registro irrazonable. Compton falleció antes de que llegara la fecha de su juicio por incendio provocado.

En definitiva, los datos domésticos pueden condenar, exculpar o inducir a error. Eso convierte a la informática forense en una disciplina indispensable y exige garantías rigurosas.

Tres problemas que la ley no ha resuelto

El primero es el del consentimiento y la notificación. La esposa en Taiwán alegó que las pequeñas luces indicadoras del aparato no ofrecían una advertencia real, una preocupación que se extiende también a invitados, menores, empleados domésticos y cónyuges separados. A diferencia de una cámara de seguridad fija, un aparato que se desplaza por la casa puede grabar a personas que nunca leyeron su política de privacidad.

El segundo problema es que legalidad y admisibilidad no siempre coinciden. La regla constitucional de exclusión de pruebas limita al Estado, no a los particulares, por lo que la Cuarta Enmienda, en general, no impide admitir pruebas obtenidas de manera indebida por un actor privado. El Tribunal Supremo estadounidense estableció ese principio en el caso Burdeau contra McDowell, en 1921.

¿Cómo admiten los tribunales pruebas potencialmente generadas y extraídas por particulares? En el caso de Taiwán, ¿qué se grabó exactamente? ¿Dónde se almacenó? ¿Se alteró de algún modo? Estas preguntas van más allá de si el vídeo parece auténtico: determinan qué puede inferir de forma fiable un tribunal a partir de un elemento digital cuya cadena de custodia puede comenzar con uno de los implicados en el litigio.

El Congreso de Estados Unidos estableció una norma distinta para las comunicaciones orales. En virtud de la Ley federal de Escuchas Telefónicas de 1968, las comunicaciones telefónicas u orales interceptadas de forma ilegal pueden excluirse como prueba, y quien las intercepte puede incurrir en responsabilidad penal y civil. Cuando esta ley se aplica a sonido grabado, ilegalidad e inadmisibilidad suelen ir de la mano.

Los tribunales también discreparon durante décadas sobre la grabación de un cónyuge por otro dentro del propio domicilio. El Quinto Circuito creó una excepción para las relaciones conyugales en Simpson contra Simpson, en 1974, aunque la mayoría de los circuitos la rechazaron, incluido el Décimo en Heggy contra Heggy, en 1988. El Undécimo Circuito revocó la excepción heredada en 2003, de modo que la sentencia Simpson quedó como una anomalía aislada.

Un robot aspirador añade, además, un matiz nuevo: la Ley de Escuchas Telefónicas regula el sonido interceptado, no el vídeo sin audio. Por tanto, la grabación exclusivamente en imagen queda fuera de ese marco federal. La responsabilidad y la admisibilidad dependen entonces de las leyes estatales, que difieren notablemente en su alcance, sus requisitos de consentimiento y sus sanciones.

El tercer problema es el de la fiabilidad. Los dispositivos de consumo se diseñaron para limpiar suelos, no para resistir un interrogatorio judicial; las marcas de tiempo, las actualizaciones de firmware y las políticas de conservación de datos pueden complicar su interpretación. Un registro de acceso remoto puede identificar una cuenta sin llegar a demostrar quién la utilizó realmente.

Los abogados del caso Dabate impugnaron la prueba de la Fitbit alegando falta de fiabilidad, aunque el tribunal terminó admitiéndola tras una revisión pericial. Cada nueva categoría de dispositivo plantea cuestiones semejantes. Los peritos necesitan métodos validados para adquirir, autenticar e interpretar los datos, tal como recomienda el Grupo de Trabajo Científico sobre Pruebas Digitales para los dispositivos novedosos.

Trazando un camino a seguir

Los consumidores tendrían una idea más clara de su exposición si los fabricantes revelasen, en el momento de la venta, qué registra el dispositivo, adónde van sus datos y cuánto tiempo se conservan. Los reguladores federales de comercio de Estados Unidos ya reclaman divulgaciones claras antes de la compra y minimización de datos para los productos conectados. Esos principios podrían aplicarse también a la visualización remota, en lugar de quedar enterrados en las condiciones de uso.

Sería igualmente útil que los fabricantes ofreciesen registros exportables que mostrasen cuándo se produjo un acceso remoto, qué cuenta se conectó y si la cámara o el micrófono estuvieron activos. Las normas federales sobre registradores de eventos en vehículos ofrecen un modelo, al estandarizar tanto los registros como su recuperación. Las directrices ya existentes para dispositivos conectados a internet respaldan referencias horarias fiables, protección frente a alteraciones, controles de acceso y plazos de conservación bien definidos.

Los legisladores podrían abordar de manera directa la vigilancia íntima, para evitar que el actual mosaico normativo termine castigando a los cónyuges traicionados, favoreciendo a los maltratadores y sin ofrecer una orientación clara a nadie. Los organismos de financiación y normalización, por su parte, podrían priorizar la informática forense de dispositivos de consumo, de modo que los tribunales admitan las pruebas porque están validadas, y no simplemente porque parezcan precisas.

El robot aspirador en Taiwán hizo, al servicio de su función principal, exactamente aquello para lo que fue diseñado: observar una habitación e informar a la persona que sostenía el teléfono. La familia y los tribunales tuvieron entonces que improvisar ante un poder probatorio que nadie había previsto. El Congreso y los distintos estados de Estados Unidos deberán decidir qué pueden grabar los robots domésticos, quién puede utilizar esas grabaciones y qué llegan a demostrar, antes de que las palabras y los actos de muchos más hogares terminen convertidos en pruebas ante un tribunal.