Los funcionarios de Santa Clara dijeron que han utilizado ChatGPT en dos reuniones públicas, lo que generó preocupaciones sobre el uso de inteligencia artificial para informar a los tomadores de decisiones.
Las herramientas de inteligencia artificial han ido creciendo en popularidad a medida que ciudades como San José las utilizan para mejorar la seguridad vial or traducir reuniones públicasPero la tecnología todavía está plagada de problemas de desinformación, lo que genera preguntas sobre cómo los funcionarios electos pueden usar la IA de manera responsable, especialmente en el corazón de Silicon Valley.
La concejal de Santa Clara, Kelly Cox, reconoció haber usado ChatGPT para buscar posibles lagunas en los contratos legales relacionados con la Copa Mundial FIFA 2026 Juegos en una reunión del 11 de febrero. La alcaldesa Lisa Gillmor comentó que le "encantó" ChatGPT cuando lo usó para investigar posibles competidores de la empresa de mercadeo Fanatics durante una reunión del 11 de marzo.
Gillmor y Cox no respondieron a las solicitudes de comentarios.
El concejal Kevin Park, quien ha trabajado como ingeniero en varias empresas de IA durante la última década, afirmó que la mayoría de la gente no comprende cómo funcionan las tecnologías de IA. Advirtió contra la colaboración de los gobiernos con empresas de IA, que están más interesadas en vender la tecnología que en proteger al público. Si un funcionario no conoce lo suficiente sobre un tema para determinar si la respuesta de la IA es precisa, podría tomar una decisión basándose en información falsa.
“La IA no intenta responder la pregunta, la IA intentará darte la respuesta más probable y la respuesta más probable realmente depende de cómo fue entrenada”, dijo Park a San José Spotlight.
Algunos de sus colegas están menos preocupados por el uso de herramientas de IA durante las reuniones públicas. El concejal Suds Jain comentó que compara ChatGPT con una búsqueda en Google, algo que a veces hace durante reuniones o debates públicos para obtener más información.
"Creo firmemente que el mundo va en esta dirección, que tenemos estos asistentes de IA que nos ayudan con casi todo", declaró Jain a San José Spotlight. "Son grandes potenciadores de la productividad y no creo que prohibirle a alguien buscar en Google en la tribuna vaya a beneficiar al público".
Mindy Romero, directora del Centro para la Democracia Inclusiva de la Universidad del Sur de California, dijo que las tecnologías de IA están avanzando rápidamente, lo que hace que las conversaciones sobre responsabilidad e implementación ética sean aún más necesarias.
Los concejales suelen recibir información oficial de los empleados municipales, pero pueden buscar más información en otros lugares, como preguntar a los residentes o investigar por su cuenta en línea. Cuando los funcionarios utilizan herramientas de inteligencia artificial como ChatGPT, Romero explicó que deben evaluar su importancia en comparación con otras fuentes de información.
“Si se utiliza IA u otras fuentes de información, ¿cuánto de esto debería integrarse en el trabajo del personal?”, declaró Romero a San José Spotlight. “¿Es un complemento o un reemplazo?”
Rich Robinson, abogado y consultor político, afirmó que es común que los concejales no confíen plenamente en el personal municipal y realicen su propia investigación, pero enfatizó que las herramientas de IA no pueden reemplazar el asesoramiento de expertos. Se refirió a una situación en 2023 cuando dos abogados fueron... reprendido por usar IA para redactar un informe jurídico, y la AI citó seis casos que no existían.
“Lo cierto es que, cuando se habla de asuntos legales y cosas así, es necesario tener pruebas y datos”, declaró Robinson a San José Spotlight. “Supongo que ChatGPT puede ser una fuente secundaria, pero hay que poder respaldar lo que ChatGPT dice. No se puede tomar al pie de la letra”.
Los gobiernos han estado debatiendo cómo utilizar responsablemente las herramientas de IA. San José reunió a más de 250 agencias públicas el año pasado para formar la Coalición gubernamental de IA para desarrollar aún más las barreras de seguridad para el uso de IA e implementar su políticas propias de IA en 2023. Santa Clara es parte de esa coalición.
La portavoz de Santa Clara, Janine De la Vega, dijo que la ciudad estableció su propio grupo de trabajo sobre mejores prácticas de inteligencia artificial hace más de un año y espera finalizar una política a finales de este año.
“Apoyamos el uso adecuado de la IA en el lugar de trabajo y estamos evaluando los protocolos y las medidas de seguridad pertinentes a medida que la tecnología evoluciona”, declaró De la Vega a San José Spotlight. “La IA ha revolucionado y seguirá revolucionando nuestro mundo”.
Cada persona tiene una comprensión diferente de la IA, y algunas personas son más expertas en tecnología que otras, incluyendo a los funcionarios electos. Romero sugirió que los funcionarios podrían informar al público cuándo utilizan la IA para la investigación, y afirmó que las herramientas de IA utilizadas en el gobierno deben ser sometidas a un mayor escrutinio. Aun así, advirtió que no se debe ignorar la IA por completo, ya que podría convertirse en una herramienta útil si se implementa con criterio.
“Hablamos de algo sumamente importante: decisiones que deben tomarse por el bien común”, declaró Romero a San José Spotlight. “Creo que todos queremos que quienes toman las decisiones utilicen información precisa y completa”.
Póngase en contacto con B. Sakura Cannestra en [email protected] or @SakuCannestra en x
Deje un comentario
Debes estar conectado para publicar un comentario.