En una advertencia cruda y urgente a los administradores financieros, el CEO
de OpenAI, Sam Altman, declaró el martes que la
inteligencia artificial ahora es tan experta en imitar voces humanas que
podría generar una «crisis de fraude» global en la banca «muy, muy
pronto». Sus comentarios, en una conferencia de la Reserva Federal en Washington,
subrayaron cómo las personas tendrán que cambiar las cosas fundamentales sobre
la forma en que interactúan debido al ritmo implacable de los avances en esta
tecnología.
Altman mencionó cómo los poderosos modelos de IA ahora son capaces de
reproducir perfectamente la voz de cualquier persona basada en solo unas pocas
muestras de audio cortas y emitieron su advertencia:
«Una cosa que me aterroriza aparentemente es que todavía hay algunas
instituciones financieras que aceptarán la voz de voz como autenticación
para que usted mueva mucho dinero o haga algo más. Es una locura seguir
haciendo … AI ha derrotado completamente eso».
Los bancos, durante más de una década, se han basado en la autenticación de
voz: los clientes repiten una frase personalizada, su «huella de voz», para
acceder a cuentas. Pero como la IA generativa ha avanzado, también las
herramientas disponibles para los posibles estafadores. Altman describió un
futuro cercano donde los atacantes podrán llamar a un banco, pasar cada prueba
y mover dinero libremente, todo simulando la voz de un cliente.
«El hecho de que no estemos liberando la tecnología no significa que no
exista», dijo Altman sobre la caja de Pandora que representa la IA.
«Un mal actor lo lanzará, esto no es súper difícil de hacer».
El jefe de OpenAI describió el escenario que lo mantiene despierto por la
noche: un ataque coordinado a gran escala donde las voces generadas por IA
derrotan rápidamente las medidas de seguridad anticuadas en los bancos más
grandes del mundo.
La amenaza no se limita a la voz. Altman dio un vistazo a la siguiente
frontera: «Video Clones», y capaz de imitar la apariencia y el discurso de un
individuo, alzando las apuestas para la seguridad personal y la confianza
institucional.
«En este momento es una llamada de voz. Pronto será un video FaceTime. Será
indistinguible de la realidad», dijo.
Fuente:
Fortune