東京新聞のニュース で、学習型の異常検出技術を安価に防犯カメラの監視業務に適用できるとかで、将来は異常行動の自動通報も、という話。
この件に関してtodeskingさんが「 機械に「異常」と判断されることがそれほど怖いのか？ 」において、
このカメラにできることは、「異常な行動を検出する」ことだ。たぶんこの「異常」という言葉がそそっかしい人たちを怯えさせるんだろう—— 異常者だって！反社会的人間のレッテルを貼られた！逮捕される！権力怖い！みたいな。
と考察している。私はこの件に反発を表明している人の中においてtodeskingさんが想定するようなそそっかしい人は多くないんじゃないかと思う。また、そういうそそっかしい人は私にとってはどうでもいい。「異常という言葉に過剰反応するな」というのは同意で、まぁ、IDSにも普通に使われてる話だしね。いや、動画認識っていうのはまた別の課題だけど。
ただ、上記の記事にコメントしているけれども、私はこのカメラの技術的限界の故に社会が規範が変容し、変容した規範が人々の(特に私の)思考に内面化されることが恐ろしい。電車内での携帯電話の使用が無意味に抑圧されていて、それが暗黙の「マナー」とやらですらなく堂々と車掌がアナウンスしてしまう現在を考えると、あり得ることだろう。False positiveを引き起こすから、という理由で跳ねたり踊ったり車椅子で移動したりといった定型外の行動を白眼視する風潮が生まれるかもしれない。
ただ、この可能性についてtodeskingさんは「無言の圧力の前に「誤報ばかりで使えないシステムだなあ」が先に来るんじゃないか」と評価していて、うーん、それは何とも。そうなるか、それとも誤報ばかりだからこそ精度を補うべく強い圧力が生まれるか。あるいは、このシステムの学習精度が著しく高くて、False positiveは殆ど生まれなかったりするかも。
そんな感じで、もうあとは実際の通報まで含めた運用が回り出さないと何とも言えなそう。私の立場は「このシステムを導入すると副作用として社会が望ましくない方向に変容する危険性もあるから気をつけて弊害を防止しましょう」であって「監視反対」ではないし。私もGmailを平気で使ってしまう人間だもの。
技術に悪い技術なんかないんだよね。これが私が色々考えた末の結論。ヒトクローン? ICタグによるトレース? 人間のネットワークノード化? YES! YESだ。人がネットワークに接続される時代がやってきたら私は乗るだろう。ソケットの埋め込みぐらいはするよ。Windows Updateを怠るとクラッカーに脳を焼かれる世界へようこそ。
核反応も、食肉の培養も、脳結線の書き換えも技術としては全てOKだ。問題はいつでも社会が技術を使う方法にあって、技術によって生じる社会の変容にある。それが人間を幸せにするかが問題だ。で、これは科学技術の免罪に使われることの多い理屈なのは承知してるけれども、私としては社会と人の思考に注意を払い続けるべき理由であると考えたい。
