La semana pasada, Ava Kofman escribió una pieza interesante pero aterradora en The Intercept sobre Voice RT. Probablemente nunca antes haya oído hablar de Voice RT porque ha sido una de esas cosas que el gobierno de los Estados Unidos hace en secreto; en este caso, se trataba de desarrollar tecnología que pueda identificar positivamente a alguien por el sonido de su voz. Asegúrese de leerlo. Es información importante que todos necesitan saber.
Nuestra voz es el identificador biométrico perfecto; Es estable y único.
Ahora la idea de reconocer a alguien por su voz es fácil de entender. Lo hacemos todos los días cuando hablamos con las personas cercanas a nosotros. La voz de una persona es bastante única y no requiere mucha potencia de procesamiento, ya sea del tipo orgánico en nuestras cabezas o del tipo de silicio en nuestros dispositivos, para saber con quién está hablando solo por escucharlos hablar. Pero la NSA pudo llevar las cosas al extremo. Tienen la capacidad de escuchar todo, en todas partes. Si está utilizando un teléfono público en medio de la nada, pueden escucharlo. Incluso podrían tener la autoridad para hacerlo, y eso significa que podríamos tener un gran problema sentados en nuestras mesitas de noche o mesas de café llamadas Google Home y Amazon Echo.
Hablando con The Verge, Albert Gidari, director de privacidad del Centro de Internet y Sociedad de Stanford, dijo que estos productos "son vulnerables a las demandas gubernamentales de acceso y divulgación; creo que el gobierno podría obtener una orden de asistencia técnica para facilitar el escaneo, y bajo FISA, quizás para construir la herramienta también ". Estoy seguro de que Gidari tiene razón porque el gobierno ya puede citar nuestros teléfonos, nuestras computadoras e incluso nuestros televisores para facilitar una investigación. Los senadores Wyden (D., Oregon) y Paul (R., Kentucky) piensan que también se podría abusar de FISA de esta manera.
Y no se trata de que una agencia gubernamental espíe lo que decimos o hacemos cuando hablamos con Alexa o Google Home. No necesitan esa información; todo lo que quieren es una grabación de nuestras voces.
Tanto Echo como Google Home almacenan grabaciones de las cosas que decimos cuando hablamos con ellos. Ambos también transmiten datos de voz a un servidor en la nube para su procesamiento. Afortunadamente, cada uno solo registra después de que se detecta la palabra clave y todos los datos que salen de su dispositivo se cifran y anonimizan. Ya sea que puedan interceptar y descifrar los datos, exigirlos a través de los tribunales o extraerlos directamente del dispositivo, todo lo que oirán será a personas como usted y yo diciéndole a Assistant o Alexa que cambien el canal o den un pronóstico del tiempo, información mundana que No estás tratando de mantener el secreto. La policía de Bentonville, Arkansas, descubrió precisamente eso cuando un Amazon Echo fue citado en un caso de asesinato en 2016. Pero, de nuevo, eso no es lo que la NSA estaba recopilando con Voice RT; solo querían algunos datos de muestra de una voz para poder compararlos mientras realizaban actividades de espionaje en tiempo real.
No es lo que dices. Es el hecho de que lo dices lo que lo hace interesante para la NSA.
Al examinar los documentos filtrados por Edward Snowden, Kofman descubrió que la NSA ha estado recopilando datos de reconocimiento de voz durante años. Esta tecnología se utilizó para identificar a Saddam Hussein y hacer coincidir algunas grabaciones pasadas que fueron capturadas. Se crearon huellas de voz para Osama Bin Laden y otros miembros de alto rango de Al Qaeda, y una nota cuenta cómo se descubrió que Abu Musab al-Zarqawi era el orador en archivos de audio en línea en los que la CIA estaba muy interesada. Estos documentos clasificados muestran que entre En 2004 y 2012, la NSA refinó y utilizó su tecnología de reconocimiento de locutores en operaciones antiterroristas y arrestos internacionales por drogas.
Si cree que la principal agencia de espionaje del país que recopila grabaciones aleatorias de lo que la gente dice para ayudar en la lucha contra el terrorismo o el narcotráfico está bien, no mucha gente discutirá con usted. Google y Facebook (y probablemente cualquier otra compañía de Internet) escanean los datos recopilados en busca de pornografía infantil o abuso, infracción de derechos de autor y actividad terrorista porque alguien siente que es por el bien mayor. No discutiré Pero Snowden también reveló que la NSA planea desplegar la misma tecnología para evitar que denunciantes como él expongan sus fechorías años antes de que se firmara la Orden Ejecutiva 13587.
La NSA tiene planes de utilizar las tácticas que ayudan a atrapar a Bin Laden para vigilar a los estadounidenses.
Eso va demasiado lejos, y hace que personas como el ex asesor de la Casa Blanca del Director de Inteligencia Nacional, Timothy Edgar, se preocupen por nuestra privacidad y las repercusiones de una agencia gubernamental dominante si creen que hemos dicho o hecho algo que no les gusta. Todos hemos escuchado casos en los que se caminó y cruzó una línea muy delgada y todo no era del todo legal según el espíritu de la Constitución. Cuando se trata de nuestras voces, los expertos en libertad civil creen que Google y Amazon necesitan cambiar la forma en que Home y Echo funcionan para que no se retengan datos de voz.
Nuestras voces son estables; Algo que dije hace 10 años puede identificarse positivamente a través de una huella de voz que viene de mí hoy. Con las grabaciones de voz a la mano, a pesar de que son archivos que dicen algo como "OK Google, atenúa las luces de la sala al 50%", es fácil usarlos contra nosotros para cualquier investigación u operación. Me imagino que la NSA tiene muchos datos de voz que pueden identificar a una persona que sirvió bebidas a un terrorista buscado en un hotel, o al agente en el mostrador de boletos en un aeropuerto. También imagino que estos inocentes fueron interrogados y luego cumplieron una orden de mordaza, a pesar de que eran inocentes de cualquier delito y la NSA y la CIA y el FBI sabían que eran inocentes.
No creas que los programas como FISA están diseñados y utilizados únicamente para protegernos. Tenemos muchas pruebas de lo contrario.
Esto debe ser desenmascarado y debatido en público. La tecnología que puede usarse para rastrear a los periodistas o exponer sus fuentes es peligrosa cuando no se usa correctamente y no debe ocultarse detrás de un muro de clasificación gubernamental. Si bien grupos como EFF y Freedom of the Press Foundation intentan hacer que eso suceda, Google y Amazon presionan para que dejen de guardar y analizar datos de voz como lo hacen ahora. Eso amortigua bastante un sistema diseñado para analizar todo y ser más inteligente. El aprendizaje automático necesita grandes cantidades de datos para analizar una y otra vez para "aprender". Google y Amazon deben preocuparse por recopilar y almacenar todo de una manera que lo mantenga anónimo en lugar de preocuparse por cómo sus máquinas de aprendizaje pueden aprender sin los datos que necesitan.
Una máquina necesita datos para aprender. Una gran cantidad de datos repetidos una y otra vez.
Señalar con el dedo a Alexa y Assistant como la raíz del problema no es bueno para cualquiera que los encuentre útiles. Necesitamos concentrarnos en atacar a nuestro gobierno y poner fin a la vigilancia injustificada de los estadounidenses. Y esto no es solo una cosa de Estados Unidos; Interpol y GCHQ de Gran Bretaña han "trabajado estrechamente" con la NSA y los programas de crédito como Voice RT como "desempeñan un papel importante en nuestra relación con la NSA". Se dice que China tiene el mismo tipo de programa y ahora puede identificar positivamente a decenas o quizás cientos de miles de ciudadanos chinos por el sonido de su voz automáticamente.
No confío en que la NSA tenga tecnología secreta que pueda identificar a cualquiera de nosotros en cualquier momento y no usarla de manera inapropiada. Estoy de acuerdo con los expertos en libertad civil en que este es un camino peligroso y debe hacerse público. No estoy de acuerdo con presionar a Google y Amazon para que dejen de innovar mientras esperamos. Estamos viendo cómo se despliega el futuro ante nuestros ojos y hasta que las máquinas "inteligentes" que Google y Amazon están usando para mostrarnos muestren que necesitan reiniciar, no retengamos el futuro.
