Si los consumidores no confían en que las herramientas de inteligencia artificial con las que interactúan respetan su privacidad, no incurren en prejuicios ni discriminación y no causan problemas de seguridad, entonces todas las maravillosas oportunidades no se materializarán realmente. En ninguna parte esto es más cierto que en la seguridad nacional y la aplicación de la ley.
Les daré un gran ejemplo. La tecnología de reconocimiento facial es un área en la que ha tenido usos terribles e inapropiados: tomar un video granulado de una tienda de conveniencia e identificar a un hombre negro que nunca ha estado en ese estado, quien luego es arrestado por un delito que no cometió. . (Nota del editor: Prabhakar se refiere esta historia.) Hay que acabar con las detenciones injustificadas basadas en un uso realmente deficiente de la tecnología de reconocimiento facial.
En marcado contraste con eso, cuando paso por seguridad en el aeropuerto ahora, te toman una fotografía y la comparan con tu identificación para asegurarse de que eres quien dices ser. Esta es una aplicación muy limitada y específica que relaciona mi imagen con mi identificación, y el letrero me dice (y sé por nuestros colegas del DHS que efectivamente es así) que eliminarán la imagen. Se trata de un uso eficiente y responsable de ese tipo de tecnología automatizada. Apropiados, respetuosos y responsables: ahí es donde debemos ir.
¿Le sorprende recibir su factura de seguridad de IA? vetado en california?
Yo no lo era. Seguí el debate y supe que había puntos de vista firmes en ambos lados. Creo que lo que dijeron, y creo que fue correcto, los opositores de ese proyecto de ley, es que simplemente no era práctico porque era una expresión de deseos sobre cómo evaluar la seguridad, pero en realidad simplemente no sabemos cómo hacerlo. esas cosas. Nadie lo sabe. No es un secreto, es un misterio.
Para mí, esto realmente nos recuerda que, si bien lo único que queremos es saber qué tan seguro, efectivo y confiable es un modelo, en realidad tenemos una capacidad muy limitada para responder estas preguntas. En realidad, se trata de preguntas de investigación muy profundas y un gran ejemplo del tipo de investigación y desarrollo públicos que ahora es necesario realizar a un nivel mucho más profundo.
Hablemos de talento. Gran parte del reciente Memorando de Seguridad Nacional sobre IA trataba sobre cómo ayudar a que el talento adecuado venga del extranjero a Estados Unidos para trabajar en IA. ¿Crees que lo estamos manejando de la manera correcta?
Es una cuestión extremadamente importante. Ésta es la historia estadounidense definitiva: que la gente ha venido aquí a lo largo de los siglos para construir este país, y es tan cierta ahora como siempre en los campos de la ciencia y la tecnología. Vivimos en un mundo diferente. Vine aquí cuando era un niño pequeño porque mis padres vinieron aquí a principios de la década de 1960 desde la India, y en ese momento, las oportunidades (para inmigrar) eran muy limitadas en muchos otros países del mundo.
