Các quan chức Santa Clara cho biết họ đã sử dụng ChatGPT tại hai cuộc họp công khai, làm dấy lên mối lo ngại về việc sử dụng trí tuệ nhân tạo để cung cấp thông tin cho những người ra quyết định.
Các công cụ trí tuệ nhân tạo ngày càng trở nên phổ biến khi các thành phố như San Jose sử dụng nó để cải thiện an toàn đường bộ or dịch các cuộc họp công khai. Nhưng công nghệ vẫn còn bị ảnh hưởng bởi vấn đề thông tin sai lệch, đặt ra câu hỏi về cách các quan chức được bầu có thể sử dụng AI một cách có trách nhiệm — đặc biệt là trong tim của Thung lũng Silicon.
Nghị viên Hội đồng Santa Clara Kelly Cox thừa nhận đã sử dụng ChatGPT để tìm kiếm những lỗ hổng có thể có trong các hợp đồng pháp lý liên quan đến Giải vô địch bóng đá thế giới 2026 trò chơi tại cuộc họp ngày 11 tháng 11. Thị trưởng Lisa Gillmor cho biết bà "yêu thích" ChatGPT khi bà sử dụng nó để nghiên cứu các đối thủ cạnh tranh tiềm năng cho nhà bán lẻ Fanatics trong cuộc họp ngày XNUMX tháng XNUMX.
Gillmor và Cox không trả lời yêu cầu bình luận.
Nghị viên Kevin Park, người đã làm việc với tư cách là kỹ sư tại nhiều công ty AI trong thập kỷ qua, cho biết hầu hết mọi người không hiểu cách thức hoạt động của công nghệ AI. Ông cảnh báo các chính phủ không nên hợp tác với các công ty AI, những công ty này quan tâm đến việc bán công nghệ hơn là bảo vệ công chúng. Nếu một viên chức không biết đủ về một chủ đề để xác định liệu phản hồi của AI có chính xác hay không, người đó có thể đưa ra quyết định dựa trên thông tin sai lệch.
Park chia sẻ với San José Spotlight rằng: "AI không cố gắng trả lời câu hỏi, AI sẽ cố gắng đưa ra cho bạn câu trả lời có khả năng xảy ra cao nhất và câu trả lời có khả năng xảy ra cao nhất thực sự phụ thuộc vào cách nó được đào tạo".
Một số đồng nghiệp của ông ít lo lắng hơn về việc sử dụng các công cụ AI trong các cuộc họp công khai. Nghị viên Suds Jain cho biết ông ví ChatGPT như việc tìm kiếm trên Google, điều mà ông đôi khi làm trong các cuộc họp hoặc thảo luận công khai để có thêm thông tin.
“Tôi tin chắc rằng thế giới đang chuyển động theo hướng này, rằng chúng ta có những trợ lý AI giúp chúng ta hầu như mọi thứ,” Jain nói với San José Spotlight. “Chúng là những công cụ tăng năng suất rất lớn và tôi không nghĩ rằng việc cấm ai đó Google tại dias sẽ phục vụ công chúng.”
Mindy Romero, giám đốc Trung tâm Dân chủ Toàn diện của Đại học Nam California, cho biết công nghệ AI đang phát triển nhanh chóng, khiến cho các cuộc thảo luận về trách nhiệm và việc thực hiện có đạo đức trở nên cần thiết hơn bao giờ hết.
Các thành viên hội đồng thường nhận được thông tin chính thức từ nhân viên thành phố, nhưng có thể tìm kiếm thêm thông tin ở nơi khác, chẳng hạn như hỏi cư dân hoặc tự nghiên cứu trực tuyến. Khi các viên chức sử dụng các công cụ AI như ChatGPT, Romero cho biết họ phải đánh giá mức độ họ cân nhắc so với các nguồn thông tin khác.
Romero nói với San José Spotlight: “Nếu AI được sử dụng hoặc các nguồn thông tin khác được sử dụng, thì bao nhiêu trong số đó nên được tích hợp vào những gì nhân viên đang làm”. “Nó là bổ sung hay thay thế?”
Rich Robinson, một luật sư và cố vấn chính trị, cho biết các thành viên hội đồng thường không hoàn toàn dựa vào nhân viên thành phố và tự nghiên cứu, nhưng nhấn mạnh rằng các công cụ AI không thể thay thế lời khuyên của chuyên gia. Ông đã nhắc đến một tình huống vào năm 2023 khi hai luật sư bị khiển trách vì sử dụng AI để viết một bản tóm tắt pháp lý và AI đã trích dẫn sáu trường hợp không tồn tại.
“Sự thật là, khi bạn nói về các vấn đề pháp lý và những thứ tương tự như vậy, bạn phải có bằng chứng và dữ liệu”, Robinson nói với San José Spotlight. “Tôi cho rằng ChatGPT có thể là nguồn thứ cấp, nhưng bạn phải có khả năng sao lưu bất cứ điều gì ChatGPT nói. Bạn không thể chỉ coi đó là giá trị bề ngoài”.
Các chính phủ đã thảo luận về cách sử dụng các công cụ AI một cách có trách nhiệm. San Jose đã tập hợp hơn 250 cơ quan công cộng vào năm ngoái để thành lập Liên minh AI của Chính phủ để phát triển thêm các biện pháp bảo vệ khi sử dụng AI và triển khai chính sách AI riêng vào năm 2023. Santa Clara là một phần của liên minh đó.
Người phát ngôn của Santa Clara, Janine De la Vega, cho biết thành phố đã thành lập nhóm làm việc về các biện pháp thực hành AI tốt nhất của riêng mình cách đây hơn một năm và dự kiến sẽ hoàn thiện chính sách vào cuối năm nay.
“Chúng tôi ủng hộ việc sử dụng AI một cách phù hợp tại nơi làm việc và đang trong quá trình đánh giá các giao thức và biện pháp bảo vệ phù hợp khi công nghệ này phát triển”, De la Vega nói với San José Spotlight. “AI đã và sẽ tiếp tục cách mạng hóa thế giới của chúng ta”.
Mỗi người có một hiểu biết khác nhau về AI và một số người am hiểu công nghệ hơn những người khác — bao gồm cả các quan chức được bầu. Romero đề xuất các quan chức có thể tiết lộ với công chúng khi họ sử dụng AI cho mục đích nghiên cứu và cho biết các công cụ AI được sử dụng trong chính phủ cần được xem xét kỹ lưỡng hơn. Tuy nhiên, bà cảnh báo không nên bỏ qua AI hoàn toàn, vì nó có thể trở thành một công cụ hữu ích nếu được triển khai một cách chu đáo.
“Chúng ta đang nói về một điều vô cùng quan trọng, chúng ta đang nói về những quyết định được đưa ra vì lợi ích công cộng,” Romero nói với San José Spotlight. “Tôi nghĩ tất cả chúng ta đều muốn những người ra quyết định của mình sử dụng thông tin chính xác và đầy đủ.”
Liên hệ B. Sakura Cannestra tại [email được bảo vệ] or @SakuCannestra trên X
Bình luận
bạn phải đăng nhập để viết bình luận.