AI nhằm mục đích cứu trẻ em khỏi các game bắn súng
Một số công ty đang sử dụng phần mềm để tự động phát hiện súng trong trường học, nhưng vẫn khó để đánh giá tính chính xác hoặc tính toàn vẹn của hệ thống của họ.
AI nhằm mục đích cứu trẻ em khỏi các game bắn súng
BỞI JEREMY HSU, UNDARK UNDARK10 PHÚT ĐỌC
Tháng 2 năm ngoái, Tim Nút nhận được một số tin tức tồi tệ nhất có thể: Cháu trai 15 tuổi Luke Hoyer của anh đã bị giết trong vụ nổ súng tại trường trung học Marjory Stoneman Douglas ở Parkland, Florida. Kể từ ngày khủng khiếp đó, nhiều bạn cùng lớp còn sống sót của Luke đã trở thành tiếng nói nổi bật trong phong trào cho luật súng khó khăn hơn. Nhưng khi sự kiểm soát súng đối mặt tăng cường một lần nữa trong hậu quả của bi kịch, Nút nhận được một cuộc gọi thông cảm từ người bạn Rick Crane, người đề nghị phát triển hệ thống an ninh vành đai theo kiểu hàng rào vô hình. Sau một số cuộc thảo luận dài, họ quyết định thành lập một công ty để khai thác các hệ thống bảo mật công nghệ cao mới nhất mà họ hy vọng có thể phát hiện các game bắn súng tiềm năng trước khi họ nổ súng.
Ý nghĩ thúc đẩy các giải pháp công nghệ tức thời phản ánh cả nền tảng chuyên môn của nam giới: Nút sở hữu một công ty viễn thông và Crane là giám đốc bán hàng, an ninh mạng và quản lý đám mây cho một công ty điện toán đám mây của Dell Technologies. Cho đến nay, startup của họ, Shielded Student, đã gia nhập ba công ty bảo mật: một dịch vụ phối hợp ứng phó khẩn cấp và hai công ty chế tạo hệ thống phát hiện súng. Một trong những hệ thống này, được phát triển bởi Patriot One Technologies ở Canada, tích hợp máy quét radar vi sóng với kỹ thuật trí tuệ nhân tạo (AI) phổ biến được đào tạo để xác định súng và các vũ khí ẩn khác. Học sinh được bảo vệ hy vọng sẽ kết hợp những giải pháp này và các giải pháp khác vào một gói có thể giúp ngăn chặn một vụ nổ súng hàng loạt khác giống như vụ giết chết Luke và 16 người khác.
Tôi có thể nói với bạn rất nhiều niềm tin rằng công nghệ này, được tích hợp vào Marjory Stoneman Douglas, có lẽ đã cứu được tất cả 17 người, Nút Nút nói, trong đó có cháu trai của tôi, một trong những người đầu tiên bị bắn.
Trong khi các nhà lập pháp và những người ủng hộ vật lộn với luật súng đạn, một danh sách ngày càng tăng của các công ty đang tham gia Shielded Student để lấp đầy khoảng trống an ninh trường học. Giống như Patriot One, một số người nói rằng họ sẽ sử dụng AI để tự động phát hiện súng bằng sàng lọc công nghệ cao hoặc bằng cách quét các đoạn phim giám sát. Tất cả nghe có vẻ hứa hẹn, nhưng một số chuyên gia lo lắng về việc biến sân trường thành khu vực nặng giám sát, nơi AI giúp các công ty tư nhân thu thập và phân tích dữ liệu của sinh viên. Quan trọng hơn, họ nói, có rất ít hoặc không có dữ liệu công khai để đánh giá xem các hệ thống phát hiện súng do AI điều khiển này hoạt động tốt như thế nào trong môi trường trường học bận rộn, mặc dù việc săn lùng các giải pháp ngày càng trở nên cấp bách.
Trong khi số vụ nổ súng ở trường học đã giảm một cách khiêm tốn kể từ những năm 1990, một loạt các sự cố gần đây đã gây ra một cuộc tranh luận quốc gia về an toàn học đường. Và vụ bắn súng Parkland nói riêng đã đổi mới các cuộc thảo luận về việc tăng cường các quy định về súng ở Hoa Kỳ, nơi đã trải qua vụ bắn súng trường học nhiều gấp 57 lần so với tất cả các nước công nghiệp khác cộng lại. Kể từ vụ thảm sát trường trung học Columbia năm 1999, hơn 187.000 học sinh đã trải qua bạo lực súng đạn tại các trường học ở Mỹ.
Với những lo ngại của công chúng, các công ty bảo mật có thể sẽ tìm thấy ít nhất một số khách hàng sẵn sàng. Thật vậy, Shielded Student đã đàm phán với các trường để kiểm tra hệ thống trong khuôn viên trường và trong khi Nút nói rằng công nghệ sẽ không bắt được mọi game bắn súng, anh vẫn tin rằng tác động sẽ là có thật. Ông [Nó] chắc chắn sẽ ngăn chặn một tỷ lệ lớn những điều xảy ra trong và xung quanh các trường học, ông nói.
Ở Seattle, hơn 3.000 dặm từ Florida, Leo Liu nói rằng ông hấp thụ tin tức về vụ nổ súng Parkland như “một cú đấm lớn.” Hai tuần sau, mối quan tâm của anh tăng lên khi anh thấy trường học 7 tuổi của mình khởi động các cuộc tập trận bắn súng tích cực bên cạnh các cuộc tập trận động đất thường lệ ở nơi họ sống ở Tây Bắc Thái Bình Dương. Giống như Nút, Liu, người đồng sáng lập của một công ty khởi nghiệp có trụ sở tại Seattle có tên Virtual eForce, đã thành lập một kế hoạch công nghệ cao để phát hiện và theo dõi các game bắn súng trường học trong tương lai.
Tầm nhìn của Liu dựa vào AI để tự động phát hiện súng trong các hình ảnh giám sát video. Khi hệ thống gắn cờ một khẩu súng tiềm năng, nó có thể cảnh báo cho nhân viên an ninh, người sau đó có thể xác nhận hoặc loại bỏ mối đe dọa có thể trước khi kích hoạt khóa trường và thông báo cho cảnh sát. Hệ thống, Liu nói, cũng có thể giúp theo dõi tay súng và gửi thông báo vị trí qua văn bản hoặc ứng dụng cho trường học và cảnh sát. Theo Virtual eForce, hệ thống này đã được thử nghiệm tại một tòa nhà văn phòng chăm sóc sức khỏe và công ty hy vọng sẽ theo dõi trong các trường học. Ít nhất hai công ty khác cũng đang phát hiện súng phát hiện dựa trên AI, bao gồm AnyVision có trụ sở ở Israel và SN Technologies có trụ sở tại Canada, theo Washington Post .
Công nghệ AI đằng sau những nỗ lực này được biết đến như là học sâu của Google đại diện cho những phát triển mới nhất trong tầm nhìn máy tính. Bằng cách đào tạo các thuật toán học sâu trên hàng ngàn hoặc hàng triệu hình ảnh, các nhà nghiên cứu có thể tạo ra phần mềm máy tính nhận dạng và gắn nhãn khuôn mặt người, mèo, chó, xe hơi và các vật thể khác trong ảnh hoặc video. Ý tưởng tương tự áp dụng cho súng.
Nhưng hệ thống học sâu chỉ tốt như đào tạo của họ. Ví dụ, một thuật toán được đào tạo để nhận ra súng dựa trên các cảnh được chiếu sáng từ các bộ phim và chương trình truyền hình Hollywood có thể không thực hiện tốt trên các cảnh quay an ninh. Tim Hwang, giám đốc của Đạo đức và Quản trị Sáng kiến AI tại Trung tâm Harvard Berkman-Klein và Phòng thí nghiệm Truyền thông của MIT cho biết, từ một quan điểm trực quan.
Để tăng độ chính xác, Virtual eForce đã huấn luyện các thuật toán của mình để nhận ra các loại súng khác nhau như súng dài, bao gồm cả AR-15 và AK-47s và súng ngắn. Công ty khởi nghiệp cũng đã quay video của riêng mình về những người cầm súng khác nhau từ các góc độ khác nhau, và hạ độ phân giải xuống để bắt chước các cảnh quay giám sát nổi hạt.
Tuy nhiên, Liu thừa nhận rằng không có thuật toán học sâu sẽ hoàn hảo trong thế giới thực. Các lỗi phổ biến nhất của hệ thống là dương tính giả, khi nó xác định nhầm một đối tượng tương đối vô hại là một khẩu súng. Để bảo vệ, mọi người sẽ có tiếng nói cuối cùng trong việc đánh giá bất kỳ mối đe dọa nào đối với cờ hệ thống, Liu nói. Việc kiểm tra con người như vậy thậm chí có thể cải thiện hiệu suất của thuật toán học sâu bằng cách xác nhận hoặc sửa lỗi phân loại ban đầu của hệ thống.
Tuy nhiên, ngay cả với những biện pháp bảo vệ này, mọi người có những thành kiến riêng có thể ảnh hưởng đến cách họ giải thích một mối đe dọa có thể xảy ra, Douglas Yeung, nhà tâm lý học xã hội tại RAND Corporation, người nghiên cứu các tác động xã hội của công nghệ cho biết. Và việc đào tạo và chuyên môn của những người giám sát hệ thống AI cũng sẽ rất quan trọng, cho dù họ là người bảo vệ, chuyên gia bảo mật hay nhà phân tích hình ảnh.
Sau đó là vấn đề riêng tư. Cả AnyVision và SN Technologies, ví dụ, kết hợp phát hiện súng với nhận dạng khuôn mặt để xác định các game bắn súng tiềm năng. Tương tự, Virtual eForce cho biết họ có thể kết hợp nhận dạng khuôn mặt nếu khách hàng muốn có lớp bảo mật bổ sung. Nhưng sử dụng công nghệ này cho sinh viên đi kèm với nhiều mối quan tâm riêng tư và chính xác hơn, có thể khiến một số trường học bị loại bỏ.
Có thể có một hiệu ứng ớn lạnh từ sự giám sát và lượng dữ liệu bạn cần để thực hiện điều này, Mitch Hwang nói.
Liên quan: Các trường hiện có thể nhận phần mềm nhận dạng khuôn mặt miễn phí để theo dõi học sinh
Các công ty dựa vào giám sát video nói chung chỉ có thể phát hiện vũ khí rút ra. Đó là lý do tại sao Patriot One, công ty Canada, có kế hoạch cung cấp cho các trường học một công nghệ khác có thể xác định vũ khí giấu dưới quần áo hoặc trong túi xách. Vượt qua chúng tôi tập trung vào các mối đe dọa che giấu, ông Martin Cronin, giám đốc điều hành của Martin cho biết, tầm nhìn của máy tính không phù hợp với.
Cách tiếp cận của Patriot One dựa trên công nghệ radar chuyên dụng, được phát triển với sự hợp tác của McMaster University, có thể ẩn sau bàn bảo vệ hoặc trong các bức tường gần các điểm truy cập chính của tòa nhà. Các sóng radar bật ra khỏi một vật bị che giấu và trả lại tín hiệu cho thấy hình dạng và thành phần kim loại của nó. Từ đó, một công cụ học sâu nhận ra các mẫu radar phù hợp với vũ khí bao gồm súng ngắn, súng dài, dao và chất nổ. Cho đến nay, một trong những thách thức lớn nhất là đào tạo công cụ để bỏ qua sự lộn xộn thường thấy trong ba lô của học sinh, chẳng hạn như mặc quần áo thể dục, sách giáo khoa hoặc hộp bút chì.
Công ty đã làm việc với Khu nghỉ mát và Sòng bạc Westgate Las Vegas ngay cả trước khi vụ xả súng hàng loạt nguy hiểm nhất trong lịch sử Hoa Kỳ hiện đại diễn ra gần đó trên Dải vào ngày 1 tháng 10 năm 2017. Tay súng đã sử dụng vali để đưa một kho vũ khí vào phòng khách sạn vào ngày 32 tầng của vịnh Mandalay. Trong tương lai, nếu Patriot One có thể chứng minh công nghệ của mình hoạt động, hệ thống này có thể giúp phát hiện một vali súng.
Để xử lý các lỗi tích cực, Patriot One sẽ cho phép khách hàng đặt ngưỡng cho các cảnh báo hệ thống về các mối đe dọa tiềm ẩn. Một khách sạn, chẳng hạn, có thể chọn chỉ nhận thông báo nếu mối đe dọa có khả năng là 70% là có thật. Nhưng công ty cũng có vẻ có ý thức cần phải đạt được một sản phẩm đáng tin cậy trước khi bán hệ thống của mình cho các khu học chánh, và đã tích cực hợp tác với Học sinh được bảo vệ sau vụ nổ súng trường Parkland.
Chúng tôi sẽ không phát hành để triển khai thương mại rộng rãi cho đến khi chúng tôi hài lòng vì độ chính xác cao, Cronin nói. Vì vậy, đó là lý do tại sao chúng tôi thực hiện thử nghiệm và tối ưu hóa trong thế giới thực này, bởi vì sẽ không thể chấp nhận được mức độ tích cực sai, bởi vì mọi người sẽ mất niềm tin vào hệ thống.
Do thiếu dữ liệu công khai, thật khó để đánh giá độc lập tính chính xác của bất kỳ hệ thống bảo mật mới nào. Nhưng ngoài thách thức về hiệu suất trong thế giới thực, các hệ thống có thể dễ bị tổn thương bởi những người chủ động tìm cách đánh lừa họ. Chẳng hạn, một cá nhân hoặc nhóm hiểu biết về công nghệ có thể cố gắng xâm nhập vào hệ thống thị giác máy tính dựa trên AI và gửi hàng ngàn hoặc thậm chí hàng triệu hình ảnh được sửa đổi để khám phá cách tốt nhất để nhầm lẫn nó với một quá trình được biết đến trong nghiên cứu AI là một nghịch cảnh tấn công.
Andrew nghĩ rằng ưu tiên số 1 là nhận thức được rằng các cuộc tấn công bất lợi này tồn tại và nhận ra rằng nếu kẻ tấn công được khuyến khích đủ để phá vỡ một hệ thống dựa trên máy học, rất có thể chúng có thể tìm cách phá vỡ nó, Andrew nói Ilyas, một ứng cử viên tiến sĩ khoa học máy tính tại MIT. Dựa trên công việc trong lĩnh vực này, có vẻ như chúng ta chưa sẵn sàng để đưa ra các quyết định quan trọng cho nhiệm vụ chỉ dựa trên AI.
Ilyas và các đồng nghiệp của ông tại LabSix, một nhóm nghiên cứu AI do sinh viên MIT điều hành, đã chứng minh rằng có thể lừa các công cụ học tập sâu. Năm 2017, nhóm đã chỉ ra cách phá vỡ Google Cloud Vision , một dịch vụ thương mại có thể gắn nhãn hình ảnh như khuôn mặt và cột mốc. Họ cũng lừa một thuật toán thị giác máy tính của Google, một trong những thuật toán tốt nhất hiện có để phân loại một con rùa in 3D là một khẩu súng trường .
Anish Athalye, một ứng cử viên tiến sĩ về khoa học máy tính tại MIT và là thành viên của LabSix cho biết, thật khó để nói các cuộc tấn công bất lợi như vậy có thể đánh lừa các hệ thống giám sát thực sự dựa trên AI dễ dàng như thế nào. Theo như nhóm MIT biết, không ai đã công khai thể hiện một cuộc tấn công bất lợi thành công vào các hệ thống giám sát như vậy.
Tuy nhiên, không khó để tưởng tượng những rủi ro bảo mật có thể phát sinh trong những năm tới. Kẻ tấn công tinh vi có thể ngụy trang một khẩu súng ngắn để hiển thị trong hệ thống an ninh dưới dạng hộp bút chì hoặc một đôi vớ tập thể dục.
Liên quan : Camera Cop có thể theo dõi bạn trong thời gian thực và không có gì ngăn cản họ
Bất chấp sự háo hức của Nút dành cho Học sinh được Bảo vệ để giúp bảo vệ trường học ngay lập tức, anh nhận ra rằng các đối tác của công ty bảo mật cần có thời gian để thu thập thêm dữ liệu và tích hợp công nghệ của họ. Hiện tại, Shielded Student có kế hoạch thử nghiệm hệ thống của mình tại một số trường, đồng thời để mắt đến các giải pháp bảo mật công nghệ cao mới khi chúng có sẵn. Chúng tôi hoàn toàn mong đợi có thể trao đổi các công nghệ này khi cần thiết, cũng như thêm các công nghệ mới, khi chúng tôi tìm hiểu những gì khác ngoài đó hoặc các công nghệ mới được giới thiệu, theo ông Nút.
Tất nhiên, không có an ninh trường học là hoàn hảo. Ngày nay, ngay cả khi không có AI công nghệ cao, các trường vẫn đăng các sĩ quan cảnh sát vũ trang, bảo vệ giới hạn điểm truy cập và cài đặt máy dò kim loại, và tất cả đều thất bại trong việc ngăn chặn các tay súng trường học vào một lúc nào đó, Cheryl Lero Jonson, trợ lý giáo sư tư pháp hình sự tại Đại học Xavier ở Cincinnati. Năm ngoái, Jonson đã công bố một bài phê bình văn học trên tạp chí Victims & Offenders về hiệu quả của các biện pháp an ninh trường học. Cô thấy tất cả đều thiếu.
Các biện pháp phòng ngừa, bao gồm các biện pháp dựa trên công nghệ, có thể bị vi phạm hoặc thất bại, theo ông Jonson. Các cuộc tập trận bắn súng tích cực sẽ là cần thiết ngay cả khi công nghệ được cải thiện, bởi vì người dân ở khu vực cần phải được trang bị các kỹ năng và sự chuẩn bị tinh thần cần thiết để có khả năng sống sót trong một sự kiện bắn súng tích cực.
Liên quan: Làm thế nào phần mềm được thực hiện trong vụ bắn súng trường
Vẫn còn phải xem liệu giám sát công nghệ cao có thể tạo ra sự khác biệt trong các vụ nổ súng trong trường học trong tương lai hay không. Hwang tại MIT, người cũng là cựu lãnh đạo chính sách công toàn cầu về AI và học máy cho Google, không nhất thiết phản đối việc tìm kiếm giải pháp cho bạo lực súng ngoài cải cách quy định súng, nhưng ông không nghĩ các công cụ giám sát dựa trên AI đã sẵn sàng , một phần vì ông không tin rằng hầu hết các công ty đều có đủ dữ liệu đào tạo để đảm bảo một hệ thống chính xác.
Ngay cả khi các hệ thống hoạt động tốt, việc có camera và thiết bị giám sát ở mọi nơi trong trường học có thể dẫn đến độ dốc trơn trượt về cách sử dụng dữ liệu giám sát đó. Các công ty tư nhân có thể cảm thấy bị cám dỗ để bán các trường học trên việc sử dụng bổ sung tất cả các dữ liệu được thu thập mỗi ngày.
Nói chung, tôi rất lo lắng về tác động của sự giám sát sâu sắc đối với trải nghiệm giáo dục.
AI nhằm mục đích cứu trẻ em khỏi các game bắn súng
BỞI JEREMY HSU, UNDARK UNDARK10 PHÚT ĐỌC
Tháng 2 năm ngoái, Tim Nút nhận được một số tin tức tồi tệ nhất có thể: Cháu trai 15 tuổi Luke Hoyer của anh đã bị giết trong vụ nổ súng tại trường trung học Marjory Stoneman Douglas ở Parkland, Florida. Kể từ ngày khủng khiếp đó, nhiều bạn cùng lớp còn sống sót của Luke đã trở thành tiếng nói nổi bật trong phong trào cho luật súng khó khăn hơn. Nhưng khi sự kiểm soát súng đối mặt tăng cường một lần nữa trong hậu quả của bi kịch, Nút nhận được một cuộc gọi thông cảm từ người bạn Rick Crane, người đề nghị phát triển hệ thống an ninh vành đai theo kiểu hàng rào vô hình. Sau một số cuộc thảo luận dài, họ quyết định thành lập một công ty để khai thác các hệ thống bảo mật công nghệ cao mới nhất mà họ hy vọng có thể phát hiện các game bắn súng tiềm năng trước khi họ nổ súng.
Ý nghĩ thúc đẩy các giải pháp công nghệ tức thời phản ánh cả nền tảng chuyên môn của nam giới: Nút sở hữu một công ty viễn thông và Crane là giám đốc bán hàng, an ninh mạng và quản lý đám mây cho một công ty điện toán đám mây của Dell Technologies. Cho đến nay, startup của họ, Shielded Student, đã gia nhập ba công ty bảo mật: một dịch vụ phối hợp ứng phó khẩn cấp và hai công ty chế tạo hệ thống phát hiện súng. Một trong những hệ thống này, được phát triển bởi Patriot One Technologies ở Canada, tích hợp máy quét radar vi sóng với kỹ thuật trí tuệ nhân tạo (AI) phổ biến được đào tạo để xác định súng và các vũ khí ẩn khác. Học sinh được bảo vệ hy vọng sẽ kết hợp những giải pháp này và các giải pháp khác vào một gói có thể giúp ngăn chặn một vụ nổ súng hàng loạt khác giống như vụ giết chết Luke và 16 người khác.
Tôi có thể nói với bạn rất nhiều niềm tin rằng công nghệ này, được tích hợp vào Marjory Stoneman Douglas, có lẽ đã cứu được tất cả 17 người, Nút Nút nói, trong đó có cháu trai của tôi, một trong những người đầu tiên bị bắn.
Trong khi các nhà lập pháp và những người ủng hộ vật lộn với luật súng đạn, một danh sách ngày càng tăng của các công ty đang tham gia Shielded Student để lấp đầy khoảng trống an ninh trường học. Giống như Patriot One, một số người nói rằng họ sẽ sử dụng AI để tự động phát hiện súng bằng sàng lọc công nghệ cao hoặc bằng cách quét các đoạn phim giám sát. Tất cả nghe có vẻ hứa hẹn, nhưng một số chuyên gia lo lắng về việc biến sân trường thành khu vực nặng giám sát, nơi AI giúp các công ty tư nhân thu thập và phân tích dữ liệu của sinh viên. Quan trọng hơn, họ nói, có rất ít hoặc không có dữ liệu công khai để đánh giá xem các hệ thống phát hiện súng do AI điều khiển này hoạt động tốt như thế nào trong môi trường trường học bận rộn, mặc dù việc săn lùng các giải pháp ngày càng trở nên cấp bách.
Trong khi số vụ nổ súng ở trường học đã giảm một cách khiêm tốn kể từ những năm 1990, một loạt các sự cố gần đây đã gây ra một cuộc tranh luận quốc gia về an toàn học đường. Và vụ bắn súng Parkland nói riêng đã đổi mới các cuộc thảo luận về việc tăng cường các quy định về súng ở Hoa Kỳ, nơi đã trải qua vụ bắn súng trường học nhiều gấp 57 lần so với tất cả các nước công nghiệp khác cộng lại. Kể từ vụ thảm sát trường trung học Columbia năm 1999, hơn 187.000 học sinh đã trải qua bạo lực súng đạn tại các trường học ở Mỹ.
Với những lo ngại của công chúng, các công ty bảo mật có thể sẽ tìm thấy ít nhất một số khách hàng sẵn sàng. Thật vậy, Shielded Student đã đàm phán với các trường để kiểm tra hệ thống trong khuôn viên trường và trong khi Nút nói rằng công nghệ sẽ không bắt được mọi game bắn súng, anh vẫn tin rằng tác động sẽ là có thật. Ông [Nó] chắc chắn sẽ ngăn chặn một tỷ lệ lớn những điều xảy ra trong và xung quanh các trường học, ông nói.
Ở Seattle, hơn 3.000 dặm từ Florida, Leo Liu nói rằng ông hấp thụ tin tức về vụ nổ súng Parkland như “một cú đấm lớn.” Hai tuần sau, mối quan tâm của anh tăng lên khi anh thấy trường học 7 tuổi của mình khởi động các cuộc tập trận bắn súng tích cực bên cạnh các cuộc tập trận động đất thường lệ ở nơi họ sống ở Tây Bắc Thái Bình Dương. Giống như Nút, Liu, người đồng sáng lập của một công ty khởi nghiệp có trụ sở tại Seattle có tên Virtual eForce, đã thành lập một kế hoạch công nghệ cao để phát hiện và theo dõi các game bắn súng trường học trong tương lai.
Tầm nhìn của Liu dựa vào AI để tự động phát hiện súng trong các hình ảnh giám sát video. Khi hệ thống gắn cờ một khẩu súng tiềm năng, nó có thể cảnh báo cho nhân viên an ninh, người sau đó có thể xác nhận hoặc loại bỏ mối đe dọa có thể trước khi kích hoạt khóa trường và thông báo cho cảnh sát. Hệ thống, Liu nói, cũng có thể giúp theo dõi tay súng và gửi thông báo vị trí qua văn bản hoặc ứng dụng cho trường học và cảnh sát. Theo Virtual eForce, hệ thống này đã được thử nghiệm tại một tòa nhà văn phòng chăm sóc sức khỏe và công ty hy vọng sẽ theo dõi trong các trường học. Ít nhất hai công ty khác cũng đang phát hiện súng phát hiện dựa trên AI, bao gồm AnyVision có trụ sở ở Israel và SN Technologies có trụ sở tại Canada, theo Washington Post .
Công nghệ AI đằng sau những nỗ lực này được biết đến như là học sâu của Google đại diện cho những phát triển mới nhất trong tầm nhìn máy tính. Bằng cách đào tạo các thuật toán học sâu trên hàng ngàn hoặc hàng triệu hình ảnh, các nhà nghiên cứu có thể tạo ra phần mềm máy tính nhận dạng và gắn nhãn khuôn mặt người, mèo, chó, xe hơi và các vật thể khác trong ảnh hoặc video. Ý tưởng tương tự áp dụng cho súng.
Nhưng hệ thống học sâu chỉ tốt như đào tạo của họ. Ví dụ, một thuật toán được đào tạo để nhận ra súng dựa trên các cảnh được chiếu sáng từ các bộ phim và chương trình truyền hình Hollywood có thể không thực hiện tốt trên các cảnh quay an ninh. Tim Hwang, giám đốc của Đạo đức và Quản trị Sáng kiến AI tại Trung tâm Harvard Berkman-Klein và Phòng thí nghiệm Truyền thông của MIT cho biết, từ một quan điểm trực quan.
Để tăng độ chính xác, Virtual eForce đã huấn luyện các thuật toán của mình để nhận ra các loại súng khác nhau như súng dài, bao gồm cả AR-15 và AK-47s và súng ngắn. Công ty khởi nghiệp cũng đã quay video của riêng mình về những người cầm súng khác nhau từ các góc độ khác nhau, và hạ độ phân giải xuống để bắt chước các cảnh quay giám sát nổi hạt.
Tuy nhiên, Liu thừa nhận rằng không có thuật toán học sâu sẽ hoàn hảo trong thế giới thực. Các lỗi phổ biến nhất của hệ thống là dương tính giả, khi nó xác định nhầm một đối tượng tương đối vô hại là một khẩu súng. Để bảo vệ, mọi người sẽ có tiếng nói cuối cùng trong việc đánh giá bất kỳ mối đe dọa nào đối với cờ hệ thống, Liu nói. Việc kiểm tra con người như vậy thậm chí có thể cải thiện hiệu suất của thuật toán học sâu bằng cách xác nhận hoặc sửa lỗi phân loại ban đầu của hệ thống.
Tuy nhiên, ngay cả với những biện pháp bảo vệ này, mọi người có những thành kiến riêng có thể ảnh hưởng đến cách họ giải thích một mối đe dọa có thể xảy ra, Douglas Yeung, nhà tâm lý học xã hội tại RAND Corporation, người nghiên cứu các tác động xã hội của công nghệ cho biết. Và việc đào tạo và chuyên môn của những người giám sát hệ thống AI cũng sẽ rất quan trọng, cho dù họ là người bảo vệ, chuyên gia bảo mật hay nhà phân tích hình ảnh.
Sau đó là vấn đề riêng tư. Cả AnyVision và SN Technologies, ví dụ, kết hợp phát hiện súng với nhận dạng khuôn mặt để xác định các game bắn súng tiềm năng. Tương tự, Virtual eForce cho biết họ có thể kết hợp nhận dạng khuôn mặt nếu khách hàng muốn có lớp bảo mật bổ sung. Nhưng sử dụng công nghệ này cho sinh viên đi kèm với nhiều mối quan tâm riêng tư và chính xác hơn, có thể khiến một số trường học bị loại bỏ.
Có thể có một hiệu ứng ớn lạnh từ sự giám sát và lượng dữ liệu bạn cần để thực hiện điều này, Mitch Hwang nói.
Liên quan: Các trường hiện có thể nhận phần mềm nhận dạng khuôn mặt miễn phí để theo dõi học sinh
Các công ty dựa vào giám sát video nói chung chỉ có thể phát hiện vũ khí rút ra. Đó là lý do tại sao Patriot One, công ty Canada, có kế hoạch cung cấp cho các trường học một công nghệ khác có thể xác định vũ khí giấu dưới quần áo hoặc trong túi xách. Vượt qua chúng tôi tập trung vào các mối đe dọa che giấu, ông Martin Cronin, giám đốc điều hành của Martin cho biết, tầm nhìn của máy tính không phù hợp với.
Cách tiếp cận của Patriot One dựa trên công nghệ radar chuyên dụng, được phát triển với sự hợp tác của McMaster University, có thể ẩn sau bàn bảo vệ hoặc trong các bức tường gần các điểm truy cập chính của tòa nhà. Các sóng radar bật ra khỏi một vật bị che giấu và trả lại tín hiệu cho thấy hình dạng và thành phần kim loại của nó. Từ đó, một công cụ học sâu nhận ra các mẫu radar phù hợp với vũ khí bao gồm súng ngắn, súng dài, dao và chất nổ. Cho đến nay, một trong những thách thức lớn nhất là đào tạo công cụ để bỏ qua sự lộn xộn thường thấy trong ba lô của học sinh, chẳng hạn như mặc quần áo thể dục, sách giáo khoa hoặc hộp bút chì.
Công ty đã làm việc với Khu nghỉ mát và Sòng bạc Westgate Las Vegas ngay cả trước khi vụ xả súng hàng loạt nguy hiểm nhất trong lịch sử Hoa Kỳ hiện đại diễn ra gần đó trên Dải vào ngày 1 tháng 10 năm 2017. Tay súng đã sử dụng vali để đưa một kho vũ khí vào phòng khách sạn vào ngày 32 tầng của vịnh Mandalay. Trong tương lai, nếu Patriot One có thể chứng minh công nghệ của mình hoạt động, hệ thống này có thể giúp phát hiện một vali súng.
Để xử lý các lỗi tích cực, Patriot One sẽ cho phép khách hàng đặt ngưỡng cho các cảnh báo hệ thống về các mối đe dọa tiềm ẩn. Một khách sạn, chẳng hạn, có thể chọn chỉ nhận thông báo nếu mối đe dọa có khả năng là 70% là có thật. Nhưng công ty cũng có vẻ có ý thức cần phải đạt được một sản phẩm đáng tin cậy trước khi bán hệ thống của mình cho các khu học chánh, và đã tích cực hợp tác với Học sinh được bảo vệ sau vụ nổ súng trường Parkland.
Chúng tôi sẽ không phát hành để triển khai thương mại rộng rãi cho đến khi chúng tôi hài lòng vì độ chính xác cao, Cronin nói. Vì vậy, đó là lý do tại sao chúng tôi thực hiện thử nghiệm và tối ưu hóa trong thế giới thực này, bởi vì sẽ không thể chấp nhận được mức độ tích cực sai, bởi vì mọi người sẽ mất niềm tin vào hệ thống.
Do thiếu dữ liệu công khai, thật khó để đánh giá độc lập tính chính xác của bất kỳ hệ thống bảo mật mới nào. Nhưng ngoài thách thức về hiệu suất trong thế giới thực, các hệ thống có thể dễ bị tổn thương bởi những người chủ động tìm cách đánh lừa họ. Chẳng hạn, một cá nhân hoặc nhóm hiểu biết về công nghệ có thể cố gắng xâm nhập vào hệ thống thị giác máy tính dựa trên AI và gửi hàng ngàn hoặc thậm chí hàng triệu hình ảnh được sửa đổi để khám phá cách tốt nhất để nhầm lẫn nó với một quá trình được biết đến trong nghiên cứu AI là một nghịch cảnh tấn công.
Andrew nghĩ rằng ưu tiên số 1 là nhận thức được rằng các cuộc tấn công bất lợi này tồn tại và nhận ra rằng nếu kẻ tấn công được khuyến khích đủ để phá vỡ một hệ thống dựa trên máy học, rất có thể chúng có thể tìm cách phá vỡ nó, Andrew nói Ilyas, một ứng cử viên tiến sĩ khoa học máy tính tại MIT. Dựa trên công việc trong lĩnh vực này, có vẻ như chúng ta chưa sẵn sàng để đưa ra các quyết định quan trọng cho nhiệm vụ chỉ dựa trên AI.
Ilyas và các đồng nghiệp của ông tại LabSix, một nhóm nghiên cứu AI do sinh viên MIT điều hành, đã chứng minh rằng có thể lừa các công cụ học tập sâu. Năm 2017, nhóm đã chỉ ra cách phá vỡ Google Cloud Vision , một dịch vụ thương mại có thể gắn nhãn hình ảnh như khuôn mặt và cột mốc. Họ cũng lừa một thuật toán thị giác máy tính của Google, một trong những thuật toán tốt nhất hiện có để phân loại một con rùa in 3D là một khẩu súng trường .
Anish Athalye, một ứng cử viên tiến sĩ về khoa học máy tính tại MIT và là thành viên của LabSix cho biết, thật khó để nói các cuộc tấn công bất lợi như vậy có thể đánh lừa các hệ thống giám sát thực sự dựa trên AI dễ dàng như thế nào. Theo như nhóm MIT biết, không ai đã công khai thể hiện một cuộc tấn công bất lợi thành công vào các hệ thống giám sát như vậy.
Tuy nhiên, không khó để tưởng tượng những rủi ro bảo mật có thể phát sinh trong những năm tới. Kẻ tấn công tinh vi có thể ngụy trang một khẩu súng ngắn để hiển thị trong hệ thống an ninh dưới dạng hộp bút chì hoặc một đôi vớ tập thể dục.
Liên quan : Camera Cop có thể theo dõi bạn trong thời gian thực và không có gì ngăn cản họ
Bất chấp sự háo hức của Nút dành cho Học sinh được Bảo vệ để giúp bảo vệ trường học ngay lập tức, anh nhận ra rằng các đối tác của công ty bảo mật cần có thời gian để thu thập thêm dữ liệu và tích hợp công nghệ của họ. Hiện tại, Shielded Student có kế hoạch thử nghiệm hệ thống của mình tại một số trường, đồng thời để mắt đến các giải pháp bảo mật công nghệ cao mới khi chúng có sẵn. Chúng tôi hoàn toàn mong đợi có thể trao đổi các công nghệ này khi cần thiết, cũng như thêm các công nghệ mới, khi chúng tôi tìm hiểu những gì khác ngoài đó hoặc các công nghệ mới được giới thiệu, theo ông Nút.
Tất nhiên, không có an ninh trường học là hoàn hảo. Ngày nay, ngay cả khi không có AI công nghệ cao, các trường vẫn đăng các sĩ quan cảnh sát vũ trang, bảo vệ giới hạn điểm truy cập và cài đặt máy dò kim loại, và tất cả đều thất bại trong việc ngăn chặn các tay súng trường học vào một lúc nào đó, Cheryl Lero Jonson, trợ lý giáo sư tư pháp hình sự tại Đại học Xavier ở Cincinnati. Năm ngoái, Jonson đã công bố một bài phê bình văn học trên tạp chí Victims & Offenders về hiệu quả của các biện pháp an ninh trường học. Cô thấy tất cả đều thiếu.
Các biện pháp phòng ngừa, bao gồm các biện pháp dựa trên công nghệ, có thể bị vi phạm hoặc thất bại, theo ông Jonson. Các cuộc tập trận bắn súng tích cực sẽ là cần thiết ngay cả khi công nghệ được cải thiện, bởi vì người dân ở khu vực cần phải được trang bị các kỹ năng và sự chuẩn bị tinh thần cần thiết để có khả năng sống sót trong một sự kiện bắn súng tích cực.
Liên quan: Làm thế nào phần mềm được thực hiện trong vụ bắn súng trường
Vẫn còn phải xem liệu giám sát công nghệ cao có thể tạo ra sự khác biệt trong các vụ nổ súng trong trường học trong tương lai hay không. Hwang tại MIT, người cũng là cựu lãnh đạo chính sách công toàn cầu về AI và học máy cho Google, không nhất thiết phản đối việc tìm kiếm giải pháp cho bạo lực súng ngoài cải cách quy định súng, nhưng ông không nghĩ các công cụ giám sát dựa trên AI đã sẵn sàng , một phần vì ông không tin rằng hầu hết các công ty đều có đủ dữ liệu đào tạo để đảm bảo một hệ thống chính xác.
Ngay cả khi các hệ thống hoạt động tốt, việc có camera và thiết bị giám sát ở mọi nơi trong trường học có thể dẫn đến độ dốc trơn trượt về cách sử dụng dữ liệu giám sát đó. Các công ty tư nhân có thể cảm thấy bị cám dỗ để bán các trường học trên việc sử dụng bổ sung tất cả các dữ liệu được thu thập mỗi ngày.
Nói chung, tôi rất lo lắng về tác động của sự giám sát sâu sắc đối với trải nghiệm giáo dục.
Nhận xét
Đăng nhận xét