Empleados de OpenAI Advierten Sobre los Peligros de la Inteligencia Artificial Avanzada

Varios empleados actuales y anteriores de OpenAI y Google DeepMind compartieron hoy una carta abierta advirtiendo sobre los peligros de la inteligencia artificial avanzada y la falta actual de supervisión de las empresas que trabajan en tecnología AI.

Los empleados sugieren que enfrentamos una serie de riesgos derivados del desarrollo de AI, incluida la profundización de las desigualdades existentes, la manipulación y la desinformación, y la pérdida de control de los sistemas autónomos de AI, lo cual, según la carta, podría llevar a la extinción de la humanidad.

Las empresas de AI tienen “fuertes incentivos financieros” para seguir avanzando en el desarrollo y evitar compartir información sobre sus medidas de protección y niveles de riesgo. “Nosotros no creemos que todos puedan confiar en compartirla voluntariamente”, dice la carta, que afirma que es responsabilidad de los empleados actuales y anteriores hablar.

Mientras no haya una supervisión efectiva por parte del gobierno de estas corporaciones, los empleados actuales y anteriores son de las pocas personas que pueden exigirles rendición de cuentas al público. Sin embargo, amplios acuerdos de confidencialidad nos impiden expresar nuestras preocupaciones, excepto a las mismas empresas que podrían no estar abordando estos problemas. Las protecciones ordinarias para denunciantes son insuficientes porque se enfocan en actividades ilegales, mientras que muchos de los riesgos que nos preocupan aún no están regulados.

Los empleados están llamando en última instancia a las empresas de AI a ofrecer sólidas protecciones para denunciantes que levanten las preocupaciones sobre los riesgos de AI.

Evitar crear o hacer cumplir acuerdos que impidan la crítica relacionada con riesgos.
Ofrecer un proceso verificablemente anónimo para que los empleados puedan plantear preocupaciones relacionadas con riesgos ante la junta directiva, los reguladores y organizaciones independientes con experiencia relevante.
Apoyar una cultura de crítica abierta para permitir que los empleados planteen preocupaciones relacionadas con riesgos sobre tecnologías al público, la junta directiva, reguladores y más, siempre y cuando se protejan los secretos comerciales.
Evitar represalias contra empleados que compartan públicamente información confidencial relacionada con riesgos después de que otros procesos hayan fallado.

LEAR  Las direcciones de ciclismo de Apple Maps se expanden a Bélgica

Un total de 13 empleados firmaron la carta, incluidos siete ex empleados de OpenAI, cuatro empleados actuales de OpenAI, un ex empleado de Google DeepMind y un empleado actual de Google DeepMind. OpenAI ha amenazado a los empleados con la pérdida de acciones invertidas por hablar, y les hace firmar acuerdos draconianos de NDA que callan la crítica.

La carta llega cuando Apple se prepara para anunciar múltiples funciones impulsadas por AI para iOS 18 y otras actualizaciones de software el lunes. Apple está trabajando en su propia funcionalidad de AI que se integrará en aplicaciones de todo el sistema operativo, además ha firmado un acuerdo con OpenAI para integrar las funciones de ChatGPT en ‌iOS 18‌.

Historias Populares

Gurman: Sin Hardware en WWDC, el Próximo Apple TV ya No Está Próximo

Mark Gurman de Bloomberg no espera que Apple anuncie ningún hardware nuevo durante la exposición principal de WWDC 2024 el 10 de junio. “No hay hardware previsto que se anuncie en WWDC, a menos que Apple sorprendentemente adelante un nuevo dispositivo que se lanzará más tarde (para ser claro: no espero eso)”, dijo Gurman en su boletín Power On hoy. Es importante destacar que Gurman ahora dice que un nuevo modelo de Apple TV “no está próximo”, a pesar de…

Auriculares Sonos Ace vs. AirPods Max

Sonos decidió en mayo adentrarse en el mercado de auriculares con el lanzamiento de los auriculares Sonos Ace. Los auriculares Sonos Ace de $449 tienen algunos elementos y características de diseño atractivos que no encontrarás en los auriculares de Apple, por lo que pensamos en compararlos con los AirPods Max de $549 para ver cuál es mejor en última instancia. Suscríbete al canal de YouTube de MacRumors para ver más videos. En términos de diseño, ambos los…

LEAR  Google finalmente trae los grupos de pestañas de Chrome a iPhone

Exclusiva: iOS 18 Añadirá Efectos de Texto a iMessage

Apple planea agregar una nueva función de efectos de texto a la aplicación Mensajes en iOS 18, según múltiples fuentes familiarizadas con el asunto. Si bien ya es posible enviar iMessages con efectos de burbujas o efectos de pantalla completa, como tinta invisible o confeti, los efectos de texto permitirían animar palabras individuales dentro de un mensaje. Con la aplicación Mensajes lista para recibir soporte de RCS en iOS 18, …

Best Buy y Amazon Introducen Descuentos Pronunciados en MacBook Air M2 y M3 [Actualizado]

Best Buy tiene una gran colección de descuentos en el MacBook Air de Apple este fin de semana, incluidos los modelos de M2 de la generación anterior de 2022 y las nuevas computadoras M3 que se lanzaron este año. En cuanto a los modelos M2, encontrarás las mejores ofertas en Amazon. MacBook Air M2 Amazon hoy tiene todos los modelos del MacBook Air de 13 pulgadas de 2022 disponibles con $170 de descuento, representando el nuevo precio más bajo…

El iPhone 16 Pro Podría Romper el Récord de los Biseles más Delgados en un Teléfono Inteligente

Los próximos modelos de iPhone 16 Pro de Apple tendrán los biseles más delgados de cualquier teléfono inteligente, superando la delgadez de borde de pantalla incluso de sus dispositivos iPhone 15 Pro más recientes. Eso es según el filtrador conocido como “Ice Universe”, quien ha divulgado información precisa sobre los planes de Apple en el pasado. Según múltiples fuentes, a pesar de cambios mínimos en el diseño, ambos modelos de iPhone 16 Pro aumentarán…

LEAR  Episodio 5 de Legacy of Monsters: resumen, referencias y especulaciones.