Flock CEO、AIカメラによる誤認停止事件について語る
Flock's CEO Faced Me After Its Cameras Led to My Wrongful Stop
Flock SafetyのCEOであるGarrett Langley氏は、同社のAI技術を搭載したカメラが関与した誤認停止事件について、The Driveのポッドキャスト「The Drivecast」で語った。Langley氏は、自身の経験を共有したジャーナリストのJoel氏に対し、事件は人間のエラーが起点となり、FlockのAI技術がそれを指数関数的に拡大させたものの、エラーの根源ではなかったと説明した。Langley氏は、FlockのシステムはFBIが管理するNCIC(National Crime Information Center)データベースから情報を取得しており、NCICのデータ構造の古さが問題の一因であると指摘した。Flockは、NCICのデータ更新の遅延や不正確さに対処するため、「抑制(suppression)」機能などを導入しているが、根本的な解決にはNCIC自体の近代化が必要だと述べた。また、Flockのカメラは、OCR(光学文字認識)の精度に一定の信頼度閾値を設けており、誤読による不当な停止をゼロに近づけるための多重の冗長性とガードレールを構築していると説明した。Langley氏は、Flockの将来的なビジョンとして、犯罪抑止に貢献し、人々が安全だと感じられる社会の実現を挙げ、特に機会犯罪の抑制に注力していく考えを示した。
- Flock SafetyのCEO Garrett Langley氏が、同社のAIカメラによる誤認停止事件について、事件は人間のエラーが起点であり同社のAIがそれを拡大させたものの根源ではないと説明した
- FlockのシステムはFBIが管理するNCICデータベースから情報を取得しており、NCICのデータ構造の古さが誤認の一因であるとCEOが指摘し、根本解決にはNCIC自体の近代化が必要と述べた
- FlockはOCR精度に信頼度閾値を設け、誤読による不当な停止をゼロに近づけるための多重冗長性とガードレールを構築している
Flock SafetyのAIカメラシステムが誤認停止事件に関与した問題と、その原因がFBIのNCICデータベースの構造的な古さにあるとするCEOの説明は、AIを活用した公共安全分野への投資判断において重要な論点を提供する。AI技術自体の精度だけでなく、システムが依存する基盤データの質が社会的な信頼と運用リスクを左右する点は、同種の技術投資を検討する上で考慮すべき要素である。