Apple se ha convertido en la última gran empresa tecnológica en comprometerse con las directrices voluntarias de seguridad de la inteligencia artificial establecidas por la administración Biden. Este movimiento surge tras los rápidos cambios en la tecnología de IA en los últimos años, lo que ha generado preocupaciones sobre su posible impacto en la sociedad.
Junto a líderes de la industria como OpenAI, Amazon, Google, Meta y Microsoft, Apple se ha comprometido a probar rigurosamente sus sistemas de IA en busca de sesgos, vulnerabilidades de seguridad y riesgos para la seguridad nacional. No solo eso, sino que la empresa también compartirá públicamente los resultados de estas evaluaciones.
“Los principios establecen que las empresas deben compartir de manera transparente los resultados de esas pruebas con los gobiernos, la sociedad civil y la academia, y reportar cualquier vulnerabilidad.”
Bloomberg
La Casa Blanca ha estado promoviendo activamente el desarrollo responsable de la IA, reconociendo sus posibles beneficios y riesgos.
El presidente Biden firmó una orden ejecutiva el año pasado que requería pruebas de seguridad para los sistemas de IA adquiridos por el gobierno federal.
Sin embargo, hasta el momento, las directrices siguen siendo voluntarias y, sin duda, los críticos argumentan que se necesitan regulaciones más estrictas para garantizar la seguridad pública. El Congreso ha mostrado interés en la legislación sobre la IA, pero aún no ha aprobado proyectos de ley significativos.
Mientras tanto, el panorama de la IA está evolucionando rápidamente. La asociación de Apple con OpenAI, anunciada en la WWDC, para integrar ChatGPT en su iPhone fue el tema más comentado en el último mes aproximadamente. Este desarrollo no ha estado exento de controversias, ya que algunas personas argumentan que Apple podría estar compartiendo datos con OpenAI porque no le han pagado ni un centavo.
A medida que la IA sigue dando forma a las industrias y a la vida diaria, el equilibrio entre la innovación y la seguridad sigue siendo un desafío crítico.
Más información aquí.