Garbage in, garbage out

週末は移住した御代田のコワーキングスペースGokalabでトークイベントだった。

Gokalabは、メンバーを「研究員」と呼んで、今回のような勉強会を開催したりと、単なるコワーキングスペースに留まらないユニークな場である。

今回『コンヴィヴィアル・テクノロジー』を読んでオファーいただいた倉嶌洋輔さんもGokalab研究員で、企業にAI導入のサポートや研修などをされているAIコンサルタント。『AI時代のキャリア生存戦略』という本を書かれているということもあってAIと仕事の話を中心にしつつ、子育て世代の方も多いということで、教育についてもテーマに加えましょうということになった。

僕の本は、AIに限らないテクノロジー全般、道具と人間の関わりについて考えていて、今回もまずこれまでの仕事を紹介したあといつものように、不足と過剰の二つの分水嶺の間に留まる「ちょうどいい道具」とは?そのための「6つの問い」とは?といったイントロをしつつ、(きっと明日から仕事で使えるような話は倉嶌さんがしてくださるだろうと思ったので)なるべく具体例としては仕事以外の話を紹介することにした。

最初はリサーチやインプットについての話題で、いきなり唐突だったが、たまたま最近の例として、僕が以前からフォローしている量子物理学者の方の投稿がわからな過ぎてChatGPTに聞いてみた話を紹介した。詳細は省くが、一見1ミリも意味がわからないようなことも、「分かりたい」という気持ちがあれば、AIがなんとかその間を埋めてくれるのがよいところである。

次に、倉嶌さんからコンピュータサイエンスでよく使われる「Garbage in, garbage out」、つまり入力の質が出力の質を決めるという話があり、これもちょうど最近息子の宿題でChatGPTを使ってみた話をした。

息子は最近中学の国語の授業で枕草子をやっていて、自分が身の回りで趣き深いと感じることを枕草子風に表現してみるという宿題が出たという。

そこで、息子は「空港で飛行機が次々に飛び立っていくところ」が思い浮かんだらしく、話しながら枕草子風にするとどうなるかChatGPTに聞いてみようということになった。

まずそもそも、飛行機が次々に飛び立つ様子を枕草子の情景に選ぶセンスがとても面白く、もうその入力の時点ですでにいいので出力も面白いものになる。(ちなみに息子は結局それも参考にしつつ自分なりの言葉で書いていた。)

また、ChatGPTのようなLLMは、その仕組みから入力と出力の関係があいまいでもうまくその間を繋ぐことが得意で、簡単な例として、言葉を天気の絵文字で表すという例を紹介した。

雨、晴れ、薄曇り、小雨、、といった多様な表現を限られた天気の絵文字のどれかに当てはめられることはもちろんだが、例えば、「涙」なら🌧(雨)に、「楽しい」なら🌞(太陽)に、「夢」なら🌌(星)にといった具合に、どんな表現でも一番相応しい絵文字に当てはめてくれるのだ。(これをデータベースと検索で実現しようとしたらかなり大変である。)

さらにその応用例として、以前作ってみた御代田町ゴミ出しGPTの話をした。いつまで経ってもゴミ出しルールをなかなか覚えられないので、ゴミ出しの質問に答えてくれる自分用のChatGPTを作ったのだ。

元々御代田町にはオープンデータを使ったゴミチェッカーというページがあり、そのデータを学習させることで分別方法やゴミ出しの日を教えてくれるAIである。「次の可燃ゴミの日は?」という質問はもちろん、「梱包材は?」と聞けば素材毎の出し方を教えてくれ、「丸ノコの刃」なら刃を包んで刃物と表記、といった注意もしてくれる。もちろん100%正しいとは言い切れないが自分で作って使う分には十分である。

ちなみに、「これがほんとのGarbage in, garbage out」というオチを言いそびれたことが悔やまれる、、

他にもいろんな話をしたが、結局今のところ生成AIも、やりたいことや向かいたい方向にある何かと現状の間を埋めてくれる道具の一つであり、仕事だろうと宿題だろうと、使うモチベーションが自分にあって、使えるのであれば使えばいいと思う。

もちろん、新しい道具は何に使えるのかは使ってみないとわからないし、中身の仕組みも知っている方が使い道の発想も生まれるから、何事も学んでみたり使ってみたり作ってみたりするのはおすすめではある(が、まあそれも自分がそういうことに興味があって好きだからだとも思う。)

行き過ぎについて言えば、社会としてはAIの倫理やルールを議論することは重要だが、ひとりひとりの人間の立場としては、問うべきは「人間を思考停止させないか」ではなく「自分が思考停止していないか」である。

「10km続く道があって、そこにAIという自転車があるなら乗った方がいい」という倉嶌さんの例え話はわかりやすいし共感する一方で、本当はそう言われたから使うというのは、それこそ思考停止である。「10km先には何があるのか?」「どうして10km先に行きたいのか?」を考えてみることが大事だと思う。