2021.10.20

「AI によるラベリングから逃れるためカモフラージュ」が投げかける、AI社会での新たな服の選択肢

heroImage

日常生活の様々な局面で、AIを活用したサービスに触れる場面が増えている。それは私たちにとって非常に便利なものである一方で、プライバシーや自分のデータの使われ方に対して、不安を抱いている人も少なくないだろう。

こういった社会背景のなかで、AI の「目」から身を守る術として提案されたのがUNLABELED(アンラベルド)による「AI によるラベリングから逃れるためのカモフラージュ」だ。UNLABELEDは、Dentsu Lab Tokyoと株式会社Qosmo が共に立ち上げたテキスタイルレーベル。今回は、初の展示会『Camouflage Against the Machines』の開催に際して、この「AI によるラベリングから逃れるためのカモフラージュ」の背景にある思想について、Dentsu Lab Tokyo・クリエーティブ・ディレクターの田中直基氏、株式会社Qosmo・代表の徳井直生氏にインタビューを行った。

PROFILE|プロフィール
田中直基

Dentsu Lab Tokyo クリエーティブディレクター。大学・大学院では、マテリアルエンジニアリング専攻。言葉、映像、デザイン、テクノロジーなど、課題に適した手段でニュートラルに企画することを得意としている。主な仕事にTOKYO2020パラリンピック開会式(選手入場パート)、「マツコロイド」、NHKのAI野球解説システム「ZUNO」、Eテレ「デザインあ」など。受賞歴に文化庁メディア芸術祭審査員特別作品、グッドデザイン賞、カンヌライオンズなど。京都芸術大学情報デザイン学科特別講師。



PROFILE|プロフィール
徳井直生

株式会社Qosmo 代表取締役 / 慶應義塾大学 政策・メディア研究科(SFC) 准教授 / Dentsu Craft Tokyo, Head of Technology

2009年にQosmoを設立。Computational Creativity and Beyondをモットーに、AIと人の共生による創造性の拡張の可能性を模索。AIを用いたインスタレーション作品群で知られる。2019年4月からは慶應義塾大学SFCでComputational Creativity Labを主宰。研究・教育面からも実践を深めている。著書に『創るためのAI 機械と創造性のはてしない物語』(BNN)など。東京大学 工学系研究科 電子工学専攻 博士課程修了。工学博士。

AIによる監視という問題を、身近に考えるきっかけに

まず、「AI によるラベリングから逃れるためのカモフラージュ」の開発の経緯、またプロジェクト体制について教えてください。
田中:

そもそもは2019年の2月ぐらいに、僕と徳井さんの2人で雑談をしていたところから始まったプロジェクトです。はじめはTシャツにプリントしたものを作りました。それはミラノで開催されたMeet the Media Guruというメディアアートのカンファレンスで徳井さんが招待講演をする機会があって、そこでも紹介してもらいました。
そのタイミングで徳井さんが慶應義塾大学の准教授になられるということで、次のプロトタイピングをSFCの学生さんとも共同でやってみようという形で進め、こちらは2020年2月にMedia Ambition Tokyoで展示を行いました。

そこから再び僕と徳井さんで、作品をさらにスケールするために、実際に店舗を作ってみたり、実証実験と広く展開してみようということで、今回の展示会の開催に至りました。

画像: Media Ambition Tokyo 2020
Media Ambition Tokyo 2020
今回、これまでのプロトタイプから商品として一般のユーザーに向けて展開した経緯を詳しく教えてください。特に、実証実験という表現をされていましたが、どういう意図があるのでしょうか?
田中:

率直に言うと、今回も商品を作ろうとして進めたわけでもなく、今回発表するものも商品というよりは作品だと思っています。

もともとは上海での展示なども予定していたのですが、コロナ禍で見送ることとなり、国内での展開へと切り替えるなかで、プロダクトとして作るパートナーを探していきました。特に、これまではSFC(慶應義塾大学湘南藤沢キャンパス)のメンバーなどインナーで作ってきましたが、外部のパートナーと組んで新たな化学反応が生まれることが面白いかもと考えていたところ、NEXUSVII.(ネクサスセブン)というストリートカルチャーをベースにファッションを提案しているブランドの方が共感してしてくださり、一緒に作っていくことになりました。実証実験と表現したのは、これは実際に着てもらったり、試してもらって、どのような反応が起きるかをみていくことに意味があると思っています。

そもそもこのカモフラージュの制作を始めた経緯が、タクシーに乗っていた時、座席に備え付けられている広告ディスプレイに「カメラで性別や年齢を推定し最適な CMを流します」という注釈がつけられていて、違和感を持ったことがきっかけでした。このダイバーシティと盛んに言われている時代に、機械の中では「見た目の性別」しか存在しないんだなと。
そこで調べてみると、海外ではこういった問題に対しては、大手企業が監視カメラ事業から撤退したり、ロンドンではデモが起こったり、サンフランシスコでは州法が改正されたりと、はるかに議論が進んでいることを知りました。一方で、日本では国民性もあってか、あまり議論になっていませんが、やはり僕らはクリエイターやアーティストみたいな肩書きを背負っているので、活動家としてデモをするとかではなく、楽しく認知が広まってもらいたいという思いがあり、制作を始めました。なので、今回は少しスケールアップをして、社会に小石を投げ込んでみたいという意図があります。

徳井:

やはり、Media Ambition Tokyoなどでも展示をしてみて、そこに来てくれる人たちは「面白い」とか「監視社会とAIの関係について考えるきっかけとなった」と言ってくれましたが、こういう展示に訪れる人はこういった問題にもともと意識が高い、リテラシーのある人であるので訴求範囲が限られてしまう。もう少し幅広い人たちに、特にこれからの社会をつくっていく若者に届けるにはどうしたら良いかというのを考えたときに、ストリートカルチャーの文脈にも乗せて、若者たちに身近な問題として考えてほしいというのがあります。肩肘張ってAIだ、監視社会だというのではなくて、このカモフラージュかっこいいというところから会話や議論が生まれていく、そのきっかけにできたらいいなと思っています。

画像: null
では、このカモフラージュの柄で「AIから逃れる」というのは、どのように実現しているのでしょうか?その仕組みの部分を教えてください。
徳井:

画像認識が人間の認識には、一般的に畳み込みニューラルネットワークという深層学習のモデルのひとつが使われています。そこには色々なモデルがあるのですが、今回は「YOLO(You Only Look Once)」という5年ほど前から画像認識で最もメジャーなモデルのひとつにターゲットを絞って、AIの認識をだます、ごまかすような仕組みを作っています。
具体的に行っていることとしては、人の画像にノイズをかぶせるところからスタートします。最初は単なるノイズなので、当然AIは人として認識するのですが、この人であるという認識が下がるように少しずつ画像の方をアップデートしていきます。それを繰り返していくと、人として認識されにくくなる特殊なノイズが出来上がります。これはAdversarial ExampleとかAdversarial Patchと呼ばれている技術です。

もともとAdversarial ExampleとかAdversarial Patchというものは、AIのシステムにとっては誤認識に繋がるバグのようなものです。修正しないと認識精度が下がり、例えば自動運転など色々な場面で使われているテクノロジーにとって危険なものとなってしまう。なので、どうやったらAdversarial Exampleの効果を抑えられるかという風に、AIのセキュリティの観点で議論されているものでした。今回はそれを逆手に取った作品と言えると思います。

プロトタイプの段階では全身を覆うコートでしたが、今回は胸の部分にプリントされていますね。それによって認識精度に違いはあるのでしょうか?
徳井:

そうですね、プロトタイプとしては色々な角度からごまかせるように全身を覆うコートでしたが、今回、ストリートカルチャーに落とし込むというところで、デザイン面のバランスやコストとの兼ね合いなど、デザイナーと検討してきました。

田中:

バリエーションもたくさん用意して検証しながら、テストとデザインを並行して進めたような形です。

徳井:

もちろんカモフラージュ部分が大きい方が効果は高くはあるのですが、バッジのような小さなものでも騙せる場合もあります。ただ、カメラからの距離や全身に対するカモフラージュの割合などにもよります。

面白かったのが、高解像度のカメラの方が騙しやすかったことですね。たとえカモフラージュの部分が小さかったとしても、はっきり模様が写るので、逆にAIにとっては騙されやすくなるような現象がみられました。

今回、スケートボードも展開していますが、ストリートファッション、またその中でも特にスケートボードというところに至った理由はあるのでしょうか。特に日本では、スケーターは都市のなかで最も規制されているような存在ですよね。
田中:

カモフラージュを色々なプロダクトにできる可能性があったけれども、そのなかでもファッションに展開することを選んだ理由は、ファッションというものが防寒のような機能だけではなく、人間が自分の意思や主張を込めて纏うものだからです。僕らは現代社会におけるカモフラージュとも言っていますが、都市のなかで隠れるためのデザインアイテムという風に考えています。

また今回、渋谷のパルコで展示を開催することも、東京のなかで最も都市的な場所であり、ストリートカルチャーの発信源でもある。2つの重なる場所であり、最も象徴的な場所だというのが大きな理由ですね。

徳井:

スケボーは僕らの趣味ということもありますね(笑)

田中:

そうですね、スケートボードはいちばん最初に決めたアイテムですね。商品ではなく作品というところではスケートボードだけでもいいのかもしれないと思っていましたが、NEXUSVII.さんがプロジェクトに強く共感してくれて、だったら服としても展開してみようとなりました。

画像: null

技術と人間の正しい関係を育むために必要な対話

AI に認識されにくくなるアイテムというと過去にはフェイスジュエリーが話題となりましたが、こういったフーディーなどに展開されると、日常でも取り入れやすいアイテムになりますね。そうなってくると、AIに認識されにくくなる衣服というのが犯罪などに悪用される、またそういったリスクとして認識される懸念はあるのでしょうか?また、そういった懸念に対してクリエイターはどう向き合っていくべきなのでしょうか?
田中:

この質問はよくされるのですが、そもそも僕らが今回作ったものは、技術的にも犯罪に実用できるものではないというのが前提にあります。世の中の監視カメラには色々な物体認識、画像認識の技術が用いられていて、その詳細はセキュリティ面の理由から公開されることはありません。僕らは「YOLO」という、あくまでひとつののモデルを利用しているので、これを着てどこの空港やタクシーでも認識されなくできるかというと、そういうわけではありません。

僕らが目指しているのは、こういうコンセプトを打ち出すことで、技術と人間と社会の正しいアップデートがされていくことです。このままなんの議論なく進んで行った時に、犯罪を目的をする人にハッキングされていく可能性もあるし、自動運転のようなものでそれが起きると重大な危険にもつながっていきます。技術の正しい発展には、多様な視点から議論していくことが重要で、ちょっとした技術を加えることでAIの認識をごまかせるということを伝えていくことが正しい人間と技術の関係を育み、先々の犯罪抑止に繋がると思っています。

徳井:

実際に悪用される可能性があるものだとしたら問題だと思いますが、アート作品として議論を呼ぶギリギリのところを攻めていく、スペキュラティブデザインのようなものだと思っています。もし、こういうものが本当に出来たとき、つまりAIの監視技術が進化したときにどうなるか、また、それに対抗するようなカモフラージュの進化がいたちごっこのようになっていったときにどうなるか。そんな未来を想像してもらう、そのときに自分たちの社会や人としての幸せというのがどうなるかを想像してもらうひとつのきっかけとして、この作品を見てもらいたい。そして、できれば買ってもらって、身に纏ってもらって、他の人とも議論してみてほしい、そういう立ち位置かなと思っています。

画像: null
日常生活のなかにもAIを活用したものが増えて、なんとなく怖さや抵抗感がある人も多くいるのではないかと思います。大きな質問となってしまいますが、みなさんはAI と人間の関係性の理想像、社会におけるテクノロジーの在り方について、どのようにお考えなのでしょうか?
徳井:

僕は会社でも大学の研究室でも、「コンピュテーショナル・クリエイティビティ」という言葉を出していて、AIを使って人間の創造性を拡張するというのが、自分の仕事の大きなテーマとなっています。AIというと、最適化、省力化のためのツールだと思われがちですが、僕は最適化ではなくオルタナティブなもの、今まで人間がやってきたことの効率化や最適化ではなく、そこから分岐した別の可能性をオルタナティブな考えやアイディアを形にするためのツールとしてAIを捉えています。今年の1月には『創るためのAI:機械と創造性のはてしない物語』という著書を出しまして、その中でもこのプロジェクトを紹介していますが、これも監視技術とカモフラージュの技術のいたちごっこという、あり得るかもしれない未来を提示する試みだと捉えています。

いつも僕はAIをArtificial Intelligenceではなく「Altenative Intelligence」、人間のコピーではなく、人間とは少し異なるオルタナティブな知性という風に捉えると、AIとの付き合い方がより面白くなると思っています。
よくAIが人間の仕事を奪うか奪わないかという議論がされますが、僕は確実に奪うと思っています。ただ、人間が今までやってきたことで最適化できるものはAIに置き換えられていくけれども、今までやってこなかったこと、新しいアイデアを生み出していく部分に新しい仕事や職種が生まれてきて、そこにはAIとの共創が生み出されていくだろうなと。

今回のプロジェクトとも関わってきますが、最適化を突き詰めていくと、今ある偏見やバイアスが強化される方向にAIの仕組みが使われがちなので、そこに対しては意識的になる必要があるとも考えています。

田中:

僕は自分の今の職業としては、ある種の解決をクリエイティブの力でしていくという側面と、アーティストとして問いを深めていく側面の両方があり、解決の方向では人間の目では発見に限界のある病気の診断や虐待のような社会問題の抑止に、AIの力を借りて解決するようなことは当然あって良いと思います。

一方で社会全体のことを考えると、今回の服もひとつの解答ではありますが、人間側が選択できる権利を残さなければいけないとも思っています。何の議論も会話なく監視カメラが社会にインストールされていることに対して、僕らはそこにNOと言える権利を持っていないのかということを、気づくきっかけになると良いと。それはAIだけに限らず、あらゆる科学や技術すべてにそうですが、あるときからルールやモラル、倫理のような人間の幸せに関係する部分が置いていかれているように感じています。

特にAIのように技術的にも専門性が高いものはアカデミアのなかでアップデートされていますが、一方で、それを社会に導入するための人たちの理解が追いついていない部分が大きい。そこがテクノロジーへの不安を掻き立てる理由でもあると思っていて、正しい関係性とか距離感、選ぶ権利といった、最も大事にするべき人間の気持ちといったところをしっかり話していく必要がある。それがないと、AIは嫌われていくばかりになってしまう。もちろんAIは必要なものだと思うのですが、この会話を積み重ねていくところをしっかり行っていかなければならないと考えています。

最後に、これから展示を開催するわけですが、その後の展開の構想、今後の挑戦などあれば教えてください。
田中:

初期から構想していたことなのですが、次のプロダクトでは、AIによって認識される性別を自分で選べるようにしたいと思っています。つまり、心の性別と見た目の性別を合わせられるようにする。僕が非常にショッキングだったのが、トランスジェンダーの友人とタクシーに乗っているときに、心の性別とは異なる広告、例えば髭剃りのCMとか男性向けの転職のCMのようなものが表示されていて、見た目から推定された性別が押し付けられてるような状況があることに気付きました。こういった状況を解消することを考えてもらうひとつのきっかけとして、自分で性別をコントロールできる服というものを次は作れたらなと。うまくいけば、来年の3月くらいに発表できればと計画しています。

あとは、徳井さんと話していて興味を持っているのが、AIを使うのに莫大な電力が必要である問題に対して、僕たちらしいユニークな方法で何かアプローチできたらと思っています。

画像: null

「AI によるラベリングから逃れるためのカモフラージュ」は、以下で実際に体験していただけます。店舗自体を一つの作品として捉え、作品展示・販売とデモンストレーション行います。
『Camouflage Against the Machines』
会期:2021年10 月22 日〜10月27日 11:00~20:00(最終日は 18:00 まで)
会場:COMINGSOON(渋谷 PARCO 1階)
入場料:無料
DESIGNART 特設サイト UNLABELED サイト

#Wearable Device
LINEでシェアする