2014/01/01

人工知能学会の表紙について、会員として調べた/考えたこと

●筆者は何者か

人工知能という広大な研究領域の一角で、ヒューマンエージェントインタラクション(HAI)という研究分野を行っている研究者の一人です。HAIを簡単に述べますと、人と、人に見えるような「エージェント(ロボットや、仮想エージェント)」との相互作用を扱う学問です(実際はそれに限りませんが)。
その意味で、今回の表紙の件については、非常に興味を持って見守っています。

今回の件について様々な意見が出ていますが、会員の意見はあまり表に出てきていません。その結果、いくつか事実と異なる点が議論されていたり、曖昧になってしまっていたりする点があります。会員として気になる点もあるので、現状で知っていることを述べることにしました。

ただし、私は今回の会誌の編集に関わったわけでもありませんし、人工知能学会を代表する立場でもありません。わかっていないことも多いです。あくまで、一会員の意見として考慮頂けましたら幸いです。

●表紙選定の際に取られた、一般投票の手続き

数多くの意見の中には「表紙は一般投票でも、圧倒的一位で選ばれた」従って「人工知能学会一般の意見が表紙に代表されている」ということを前提とした意見が散見されます。表紙に肯定的にせよ、否定的にせよ、これは事実とは異なります

以下、説明を述べます。

人工知能学会の表紙はクラウドソーシングで選ばれました。これは、普通の意味の「投票」とは少し違います。クラウドソーシングはまさに今回の人工知能学会の特集(ヒューマンコンピューテーションとクラウドソーシング)に挙げられていますが、人工知能の分野でクラウドソーシングという場合、不特定多数の人々を「計算資源」として捉え、計算機には難しい課題を代わりに解かせる、という発想を指します。ヒューマン(人間)がコンピューテーション(計算)するというやり方です。人間に課されるのはあくまでタスクで、全ての人間が参加することを義務付けられているわけでもありません。
関係者の方に話を聞いた印象では、今回時間を短縮するため、アイディア出しとコンセプトの策定手法として、クラウドソーシングを使った、ということのようです。

具体的な選定手順はどのような形だったのか、現状で把握した範囲について述べます。
選定サイトの広報はまず、会員以外も登録可能な人工知能学会のメーリングリストに対しアナウンスを送る、という形で行われています。「クラウドソーシングを活用してデザインの募集・選定を進めて」いる、というメールが届いたのは11/11(月)の昼過ぎで、そのメールに示された締め切りは11/13(水)と、極めて短い期間でした(実際には締め切り以降も投票できたようですが、その点は会員に連絡されていません)。このメールについて、私は残念ながら読み過ごしており、投票は出来ておりません。以上の詳細は、後でメールを検索して確認したことです。

メールを読む限り、表紙のデザイン選定に対しては「より幅広い読者層にアピールできるデザインを念頭に投票」という指示がありました。また「今回は、表紙のデザインを検討するものであり、デザインの中には差し替えて使用するものもありますが、それに関しては別の検討といたします」という指示もありました。確認していませんが、デザインには仮写真を用いた案もあったようです。つまり、このフェーズで選ばれた表紙が、そのまま使われない、と推測した投票者もいたかもしれません。

具体的な投票プロセスについて。これは後から関係者に少しずつ確認した情報になりますが、投票はLancersというサイトに委託され、各自がそれぞれ好きなデザインに票を入れる、という形だったそうです。デザインには数十の候補があったそうです。このうち、一位のデザインに対する投票数は会員数からすれば十分とは言えない数(多くても数十票?)だそうです。そもそも関心を持った会員が少なかった可能性があります。ここで選ばれたデザインを、背景の絵も合わせて、1月号の表紙として採用し、残りの号の背景はコンセプト含め検討中とのことです。

人工知能学会の会員は2200人いますから、学会員全員に対する本表紙への有効票の割合は全体の投票の1%~数%程度でしょうか。投票に関わった会員は多くても数%と推測できます。
以上から、「表紙は人工知能学会の会員の大多数によって選ばれた」という見方だけは、訂正しておきたく思います。また、これは熟慮を求められる通常の選挙とは異なります。「会員のうち数%が、11/11-13の仕事の合間に、幅広い読者層にアピールできるデザインを目指して、たたき台となる表紙を選んだ」と捉えるのが、現状をより表していると思います。ここから、表紙の選定が「会員全員の意識を表していた」と導くのは、ミスリーディングだと思います。

※補足しますと、編集委員会と理事会の投票がどのように行われたかは、私にはわかりかねます。

●表紙を見た時の私の印象と、この文章を書いた動機

私はただの一会員で、会誌には関わっていません。人工知能学会が表紙のリニューアルについて動いていることは知っていましたが、実際に確認したのは、表紙が発表される3日前の12月22日です。たまたま研究会のスライドを見て、そこで知りました。

その時点で懸念を感じ、Twitter上で関係者の方にお伝えしました。懸念内容は4点でした。

  • 「ジェンダー」:女性である
  • 「作業」:掃除というタスクを課せられている
  • 「有線で繋留されている」:自由が与えられていない
  • 「表情」:明るい表情ではない

そのうえで、無意識的な差別意識を暴き出す、というようなエクスキューズがあれば良い、とお伝えしました(また、学会誌という文脈を除けば、この表紙は好みである、ということは正直に述べました)。

「エクスキューズ」についてもう少し説明しますが、この表紙は、人工知能におけるモチベーションの矛盾をうまく示しているように思えました。人工知能の研究者の中には(非明示的にせよ)人間と同じような創発的な知能を作る、というゴールを目指す人も多いです。しかし工学的には、その知能に人間と同じような自由を与える動機はありません(工学の第一義の目標は、ある課題に対する解決策を提供することで、それ以外のことを考える必要はありません)。人間に似た形状をもつものを、掃除という課題で縛り、電力線で繋留している図は、その動機の矛盾点を暴きだしているとも解釈できます。「汎用の課題を解決できる人工知能に関する研究(Artificial General Intelligence)」の輪講に関わっていた身としては、このテーマは非常に気にかかるものでした。付け加えれば、ピグマリオンコンプレックス(特に「マイ・フェア・レディ」のような)観点から考えても、自律性と制御性というのは面白い課題だと思いました。

その時点ではこの絵が「「日常の中にある人工知能」というコンセプトで、掃除機が人工知能になっていることを表しています」という補足は無かったので、判断できる情報は絵のみでした(これは何か意図があることかもしれませんが、現状ではよくわかりません。ただ一つだけ言えるのは、公式にはヒューマノイドとも、アンドロイドとも、擬人化(掃除という作業の擬人化)とも決定していないようです)。
私個人としては、差別的と取られる可能性もあるが、手にとってもらう、という意味ではギリギリ問題ないのではないか、と判断しました。面白い題材を扱っているにも関わらず、必要な人に届いてない学会誌を手にとってもらうことが最も重要な目標であれば、その問題について目をつぶっても良いのではないか、と思ったのです。

そのとき、女性だけでなく男性も含め、少なくない人々が不快に思う可能性を軽視し、看過したことは、若干後悔しています(もちろん実際には、私が見た表紙は最終稿であり、変更はできなかったと思いますが)。また、この表紙を海外に持っていけない、ということに関しても、私は同意します(誤解されやすく、言葉を尽くして説明する必要があります。少なくとも、研究者にとってそれは不必要な労働です)。特に、将来学会に入るだろう外部の方に、本質を誤解される可能性があるという意味で、私はやはり「学会誌の表紙としては」不適切だったかもしれない、と思います。しかし、それで人工知能学会の全部にがっかりしてほしくはない。それは、もったいない!

これが、この文章を書いた動機です。

●ジェンダーと工学

今回の件で、一つだけ私が強調したいのは、物議を醸しやすいからといって、ジェンダーを工学的に利用する、という方法論自体を捨てるべきではない、ということです。
この点に関して、例えば「男性向け生理体験装置」を作成されたスプツニ子!さんと、行き過ぎたフェミニズム運動が表現の自由を脅かす事を恐れるクリエイターの方々と、我々AI研究者の方法論は、じつはそれほど異なっていないと思います(わたしは、アートとエンジニアリングは「人を動かす」という意味で本質的に同様のもの、と考えます)。お互いに争うべき動機も利得もあまりありませんし、合意点を探せるでしょう。

AI研究の中で、人と擬人的なエージェントとのインタラクションを探るHAI研究は、人間の要素を人工物に還元し、適用していく分野であり、その中ではジェンダーという要素も例外ではありません。例えば、性別による音声の好みに関するいくつかの知見がありますが、これらの知見は、カーナビ音声等に応用される可能性があります。また、推測ですが、Siriのジェンダーが女性として設計されているのは、おそらくHAIの知見あっての話でしょう。ただし、エージェントのジェンダーの設計に関する倫理的な問題は議論され始めたばかりです。面倒な問題かもしれませんが、ここには本質的な問いがあるかもしれない、と思います。

●未来の研究者、特に、女性研究者の方々へ

人工知能研究について、女性が冷遇されている、ということは私見ではまったくありません。確かに、全国大会で見る限り、男性の方が女性より多いでしょうが、それは研究がやりづらい、ということを意味しません(これは、私が男であるから目に入っていないだけだ、と言われればそのとおりかもしれませんが)

補足すれば、AI研究の中でもエージェントと人に関わるHAI研究は、特に女性が多い分野です。特に、海外の研究者に限れば、HAI研究はむしろ女性の方が多い分野と言っていいでしょう。例えばMIT Media Lab(米)のRosalind Picard、Cynthia Breazeal、カーネギーメロン大(米)のSara Kiesler、Jodi Forlizzi、ハートフォードシャー大(英)のKerstin Dautenhahn、トゥウェンテ大(蘭)のVanessa Eversなど。国内でも、人工知能学会の理事を務められている成蹊大の中野有紀子先生や、東京大学の三宅なほみ先生、関西大学の米澤朋子先生、大阪工大の神田智子先生など、様々な先生が手がけられている分野です(他にもたくさんいらっしゃいますよ!)。

人工知能学会は極めてフットワークが軽く、革新的な団体です(もともと、そうでなければ表紙の変更など提案にも登らないと思います)。例えば、昨年度より人工知能学会には、SF小説家のショートショートが連載されています。これはただ会員のための余興で載せられているわけではなく、「人工知能が小説を書く」というプロジェクトとの絡みで、こういった小説が掲載されています。これはつまり、小説家と研究者が、「同じ土俵で想像力を広げる戦いをしている」と、捉えることもできるでしょう。こういう試みを行っている学会は、めったに聞きません。(まったく余談ですが、本学会がティプトリー以降のSFの流れについていっていないのではないか、という意見には、かつてSFサークルの一部員だった身としても、反対しておきたいところです。まあ、表紙にノスタルジックな印象はありますし、議論を呼びそうですが)

また、本年5月には、人工知能の知性が人間を超えるその「特異点(シンギュラリティ)」に関する特集がありました。ここでは、単純に技術だけでなく、社会がどう変革されるか、人の倫理がどう変わるか、ということまで含めた議論が行われています(わたしはこのパネルトークの編集にかかわりましたが、シンギュラリティ大学のNeil Jacobstein氏の未来に対する力強い楽観主義と、Yahoo! ResearchのElizabeth Churchill氏による鋭い批判、オックスフォード大のWilliam Dutton氏の現実主義等を含め、訳していてとてもワクワクするものでした)。

あと、レクチャーシリーズ「人工知能とは」は、人工知能の研究者を志す人にとって参考になるのではないかと思います(私が面白がっている)。第一線の人工知能研究者の方々が、毎号入れ替わり立ち代り、「人工知能とはなにか」という大テーマについて、自分の持論を述べてお互いに議論する。しかも、相手の意見に対して経緯を払いつつも、相手の意見を安易に肯定せず否定も辞さない、という、ガチの討論です。毎号、ものすごく刺激的で、触発的です(私見ですが、このシリーズ、学会誌に掲載されているショートショートSFより想像力に溢れていると思います)

●最後に

人間の知性について自覚的な人々が、人の持つ差別意識の仕組みについて、無意識のままにしておくことはない、という方に私は賭けます。
もちろん、今回の件を通して不信を持たれる、という方もいらっしゃると思いますが、これは学会の今後の対応を待つのが良いと思います(関係者の方に確認したところ、既にいくつか、何か試みを用意しているようです)。

とにかく、私は学会の次の対応に期待したいと思います。


6 件のコメント :

HTCH2 さんのコメント...

大変興味深く読ませていただきました。
他者の知性は自己が措定するより高い、ということに自己の身体を賭けるほうが、未来が開けやすいと考えますので、これからの学会の試みを楽しみにしております。

naruse さんのコメント...

> 人工知能の研究者の中には(非明示的にせよ)人間と同じような創発的な知能を作る、というゴールを目指す人も多いです。しかし工学的には、その知能に人間と同じような自由を与える動機はありません(工学の第一義の目標は、ある課題に対する解決策を提供することで、それ以外のことを考える必要はありません)。人間に似た形状をもつものを、掃除という課題で縛り、電力線で繋留している図は、その動機の矛盾点を暴きだしているとも解釈できます。

なぜそこまで読めていて、彼女が本を持っていることに気付かないのでしょう。
掃除という彼女の任務に全く必要のない本を。

匿名 さんのコメント...

門外漢としてな何か他人事のような書きぶりに違和感を感じます。学者さんの典型的かつ標準的な文章法でしかないのかもしれませんが。
つまり私がこれを書いても無駄、ですが(大爆笑)
いたるところに注釈が付き「私は違いますからね」「正確にはわかりませんからね」といいわけのオンパレードなのです。気にしているのは一般大衆の目ではないのか?と思うのですが、そこに対して全く届かない文章表現のように思います。

osawa さんのコメント...

(誤字がありましたので、再投稿します)

>HTCH2さん
応援いただき、ありがとうございます。自分自身の研究についても、頑張って進めていきたいと思います。
関係者の方々は、既に今回の動向についての分析も含めて、動いているようです(なんというか改めて、知に貪欲な方々だと思いました)。

>naruseさん
本を持っているかどうかという点について、正直なところ、最初に見た22日の点ではあまり気にしていませんでした(それ以外の点が目についたため)。
今回、片手に本、片手に箒を持っている点に関して改めて考えて、本文で述べたモチベーションの矛盾を支持するように私には見えます(関係者の話を聞く限り、本については、少なくとも無意識のうちに入れたものではないようです)。

>匿名さん
文章がわかりづらい点、申し訳ありません。
今回の文章では、情報の範囲を明確にしたいと思い、まず意味の正確性に配慮することを心がけました。特に、不正確な情報で不必要な対立を生むのが怖かったので、センシティブと感じられる点については注釈を多くし、情報の範囲に関して限定を入れています。

全てお答えできるかわかりませんが、文中、意味の取れない点がありましたら、ご指摘いただけますと幸いです。

naruse さんのコメント...

> 今回、片手に本、片手に箒を持っている点に関して改めて考えて、本文で述べたモチベーションの矛盾を支持するように私には見えます(関係者の話を聞く限り、本については、少なくとも無意識のうちに入れたものではないようです)。

普遍的な表現かまでは自信がありませんが、ゴーレムの類が本に興味を持ち知性や感情、
はては自由意思を獲得していくという描写はしばしば見かけるものです。
(ぱっと思いつくところではタチコマや惑星のさみだれの11号)

また、イスが斜めに配置されている点、本が床や棚に積まれている点、棚に詰まれている本が下に書類を挟んでいる点などを見るに、
彼女の任務である掃除はいまいち進んでないようにも見えます。
ようするに、本 > 掃除、という表現ですよね。

その一方で今まさに本を読んでいる光景ではありませんし、彼女の表情が戸惑いか何かを表していたり、
カメラ側を見ているのは、気になるところです。
もしかしたら初めて本に触れ、読みふけっていたところに人が現れた瞬間であり、
この視線はそれに居合わせた人の視線なのかな、とか。
(第1号なので始まりの瞬間?)

などと考えると、「矛盾の支持」というレベルにとどまらず、
「人間と同じような創発的な知能を作る、というゴール」を訴える表紙だと思うのです。

(もう一つ、人工である旨の表現であろうケーブルの表現がやや古めかしくなっているのが気になるのだけど、
 これはどう解釈すればいいのかわかりません)

osawa さんのコメント...

>naruseさん
本を手に取っている点から多様な解釈が生まれたこと、とても嬉しいですし、興味深く思います。
以下、私の考えを述べさせてください(必ずしもnaruseさんの解釈を否定するものではありません)。

予め与えられたタスクのために設計された知能が、そうでない創発的な意思を持って行動する、というのは面白い現象であり、人工知能研究者の中にも、人の認知に学ぶ知能、という考え方で、そういった研究方針を取る方もいます。

一方で、人工知能研究者にはさまざまな立場がありますので、作成する知能システムが、人とは全く違ったシステムになる、人間と同じ成長プロセスを取るとは限らない、と考える方も多くいらっしゃいます。
その観点から同様の光景を見ると「予め人間とは違う条件で充分に知的なシステムが、人間の持つ知識記述に興味を持った」という解釈も成立します(SFだと異星人ものに多いテーマです。例えば岩明均の「寄生獣」では、主人公に寄生した異星人が本を読むシーンがあります)

東京大学の堀先生が、昨年度学会誌9月号に掲載された「人工知能とは」をオンライン掲載されていますが、ここにも現れているように、人工知能研究の対象や目指すべきゴールは、研究者によって様々です。そして、様々だから面白いとも思います。
http://www.ailab.t.u-tokyo.ac.jp/horiKNC/representation_units/42

私個人としては、naruseさんの「人間と同じような創発的な知能を作る、というゴール」にも非常に興味を感じますが、研究者として、その解釈「だけ」とは言いづらいですし、学会として一丸となって推すべきビジョンとは、多様性を尊重する観点からも、必ずしも言い切れないものを感じます。

ですが、naruseさんの中で解釈が生まれた、ということに関しては、意味のあることだと感じます。