統計の嘘とAIの限界
から抜粋
養老▼
同じようなことは、実は医療の世界では、ずっと昔からあります。
統計の話です。
小咄（こばなし）まであります。
難病にかかった患者に医者がいうんです。
「この病気は致死率は99%です。100人いたら99人は死にます」ってね。
患者は真っ青です。
そこで、医者は「でも、あなたは助かります」と言ってニコリとします。
「どうしてですか？」
「私がこの病気を治療した患者さんはこれまで99人いました。その全員が亡くなりました。100人のうち1人は助かります。それがあなたです」。
新井▼
AIの一番の問題はすべてデータに基づいて予想したり判断したりしていることです。
しかもそれを積み重ねていきます。
データというのはすべて過去のことです。
今いる人間についてのことを過去のデータで判断するってことは、昔も今も人間は変わらない。
時間の経過があっても人間は変わらないという前提がないと無理なんです。
でも、そんなことありませんよね。
人間や社会は変わるものなのに、世の中は変わらないという前提で統計というものが幅を利かせていて、それがAIが学習するデータになっているんです。
その上、ブラックボックス化しています。
ある統計を前提として統計を取って、それをまた前提として統計をとるみたいなことが起こって積み重なっているんです。
AIの仕組みも積み重ねですから、第一段階のAIがあって、その判断を前提としたAIが動いて、それを前提としたAIがまた動く。
そんなのが三つぐらい繋がったらもうメチャクチャです。
そういう脆弱な統計を拠り所にして問題が解決できると考えていること自体が、リテラシーが非常に低いということですね。
先生がおっしゃる「バカの壁」です。
先ほど、アメリカでAIを犯罪捜査や裁判で使っているという話をしましたけど、アメリカという国は、どうしてそうなってしまうんでしょうか。
養老▼
それぞれの社会は履歴を持っていますね。
歴史です。
その中で、暗黙の裡（うち）にほどほどに落とし所を見つけるのが伝統的な社会だと思います。
アメリカはその点ちょっと若い社会で、やることが乱暴ですね。
それを伝統的な社会の日本が手本にしているという変なことになっていますね。
新井▼
日本は、どうしてそれを手本にするんでしょうか。
養老▼
一つは敗戦でしょうね。
それからもう一つは、アメリカ流のいいところもあって、新しいものがどんどん出てくる。
AIもそうですよね。
新井▼
この間、とっても面白いビデオを観ました。
アレクサというAIスピーカーは、「電気をつけて」とか、「新井さんに明日の待ち合わせを8時に変更してくださいとメールしておいて」とか話しかけるとやっておいてくれる。
そしたら、オウムを飼っている家の様子を撮影したビデオがあって、オウムが人間の真似をして「アレクサ、電気消して」というんですよ。
すると、電気が消えるんです。
可笑しいですね。
そのうち、オウムの命令で勝手にメールが送られたりするんですよ、きっと。
あんないい加減なものを、製造者責任も考えずに社会に出してしまうところが、アメリカの底抜けなところだなとは思います。
それが新しいことをどんどんやるスピリットなんでしょうね。
自由競争を大切にしたいから、格差があっても仕方ない。
自己責任だから、保険がなくて道端で死ぬ人がいてもいいって。
日本は「お互いさま」の国だったりもしますよね。
キリスト教の国のように教会の活動に組み込まれたチャリティとかボランティアはありませんけれど、袖擦り合うも他生の縁とか、情けは人の為にならずとか、そんな「お互い様精神」のようなことでなんとなくやってきたところがあると思うんです。
でも、なんとなくやってきたことは、壊れ始めたらすぐになくなっちゃったという気もしています。
私の受けている印象では、今まさにそういう感じです。
日本のただ今現在をかなり悲観的な印象を
お持ちの新井先生。
この対談では、養老先生と近しい感性で
お話しされていると感じた。
アレクサに関しては、自分も使っているから
ちょっと異なることを思うのだけど
どこまで依存するかによるのかな、と。
自分たちにとって良いところを活用すれば良い、
って思うがその”良い”っていうのが
養老先生流にいう”ものさし”とか”前提”とかにおよび
面倒くさい流れになるので定義できませんけれども。
自分が気になるのは多くの人もそうだと思うけれど、
働き方が今後AIが進んでことによって、
どのように変わっていくかってことだったりする。
DXで仕事がなくある時代をいかに生き抜くか
から抜粋
佐藤▼
新井先生の『AI vs. 教科書が読めない子どもたち』は、すっかり古典としての地位を確立しましたね。
計算機の延長に過ぎないAIが人智を超えないことや、その技術によって生まれたロボット「東ロボくん」が東大に合格できないことは、広く共有されるに至ったと思います。
新井▼
2015〜16年に見られたAIへの過剰な期待は、いまや「がっかり感」に変わっているように見えますね。
佐藤▼
シンギュラリティ（AIが人類を越える技術的特異点）は来ない。
ただ問題はそこにあるのではなく、AI技術の進展で仕事が消えていく一方、AIでは替えの利かない「読解力」が日本人全体で落ちてきていることですね。
その問題を新井先生は最近、「新文書主義」という言葉で説明されています。
新井▼
はい。
21世紀はテクノロジーの世紀であるとともに、新文書主義の時代です。
対面でのコミュニケーションよりもメールやマニュアルなど、文書によるやりとりの比率がどんどん上がっている。
しかも高度な内容を読み解かなくてはいけませんし、そこでミスをすると大きな損害になったりします。
佐藤▼
新型コロナの感染拡大で定着したテレワークが、それに拍車をかけている。
新井▼
何でも一人で読んで理解しなくてはならなくなりましたね。
テレワークだと、もう隣にいる先輩に「これ、どうするんですか？」とは聞けない。
自分一人で理解できますよね、自力で読めて当然ですよね、という前提で、仕事が行われるようになります。
佐藤▼
芥川賞作家の藤原智美氏も読解力の低下を危惧しています。
『ネットで「つながる」ことの耐えられない軽さ』というエッセイ集で、いまのSNSなどでやりとりされているのは、書き言葉でなく話し言葉で、このため日本人の読解力が急速に落ちていると指摘しています。
資本主義と民主主義とDX から抜粋
佐藤▼
これからの社会がDXによって大きく変わっていくと、当然、制度も大きく影響を受けますね。
新井▼
そこが佐藤さんと話したかったことです。
今の資本主義と民主主義がどんな影響を受けるかは、佐藤さんとじゃないと話ができない。
政治形態が変わる時は、最初に新しいテクノロジーが興り、それによって富の配分や必要とされる職種に無理が生じて、革命や体制の変化が起きます。
民主主義もルソーが一所懸命に言ったから生まれたのではなく、先に蒸気機関車のようなテクノロジーが生まれ、産業が機械化されて工業が興り、資本主義が生まれたから、民主主義ができてきた。
それは工業が都市労働者を必要としたからです。
佐藤▼
それまでになかった職業です。
新井▼
都市労働者に機嫌よく働いてもらうには、ある程度、生活を豊かにしたり、自由を担保しなくてはならなかった。
また仕事に必要な学問を身につけた方がいいという資本主義の都合から、教育を充実させたり、子どもは働かせないで学校に通わせたりするようになった。
奴隷解放も労働者の待遇改善も、女性の社会進出も同じ流れです。
佐藤▼
つまりそれらはすべて資本主義の要請で、資本主義が発展するために必要なことだったわけですね。
新井▼
だから民主主義は、明らかに資本主義のおかげで生まれたのです。
そしてその資本主義が生まれたのは、19世紀テクノロジーのおかげです。
佐藤▼
今はAIなどのテクノロジーで、それ以上の変化が訪れようとしている。
新井▼
恐ろしいことに、DXによって起きるのは、人を不要とするタイプの変化です。
労働者がいらなくなる。
もっともシンギュラリティは来ないので、全部いらないということはなく、非常に高い能力を持つ人が少数必要な世界になっていきます。
佐藤▼
そうなると、会社の在り方だけでなく、雇用や労働者の意味が変わってくる。
新井▼
アダム・スミスは、資本主義が労働者を必要とするという前提で『国富論』を書き、現在の経済学もその流れの中にあります。
労働者がいらなくなることを想定していない。
そこにはさらに落とし穴があって、「神の見えざる手」以降の経済学は、完全競争によって「一物一価」に近づくことをよしとしたわけですね。
誰かが起業したり資本家が投資したりすると、最初は他に競争相手がいないから価格が不当に高くなりますが、それが完全競争によって一物一価になる。
佐藤▼
同一市場の同一時点における同一の商品は同一価格になる、という考え方ですね。
新井▼
それがどうして起きるのかといえば、情報の非対称性が解消されていくことによって起きるわけです。
一昔前は、商品について一般の人は知る方法がないから、近所の商店街の電器屋さんから商品を買っていたわけです。
佐藤▼
自分で調べ尽くすには、コストと時間とエネルギーがかかりすぎる。
だから電器屋さんへの「信頼」でことをすました方が良かった。
新井▼
そのコストがインターネットによってゼロになってしまった。
情報の非対称性が解消されて完全競争になるのが速すぎるんです。
そうなると、何かに投資しても、その投資を回収する前に一物一価になってしまい、利益が出ません。
佐藤▼
今のお年寄りがいなくなったら、街の電器店はなくなってしまうでしょうね。
新井▼
こうした変化の中で企業が何をするかといえば、やっぱりDXです。
DXで岩盤コストである人件費を究極まで削る方向に向かう。
今の業務をただデジタル化するだけのデジタライゼーションでお茶を濁しているような余裕が企業からなくなり、本気でデジタライゼーションをして業態変化をし始める。
それに成功した会社だけが生き残り、失敗すれば市場から退場せざるを得なくなります。
佐藤▼
そこでは働けなくなる人がたくさん出てきますね。
こうした問題はマルクスからも読み解けます。
『資本論』にこうあります。
「あらゆる利益を横領し独占する大資本家の数の不断の減少とともに、窮乏、抑圧、隷属、堕落、搾取の大衆が増大する」。
スキルのある高度人材は資本に集まってきますが、それは一握りで、多くは無知で貧困状態で、人の言うがままに従う大衆となる。
ではどうすれば良いのか、までも
話し合われておられるがここでは問題提起
のみに留めさせて頂きたく
新井先生の主たる言説は一体なんなのか
気になったので深掘りしてみた。
はじめに から抜粋
前著『AI vs. 教科書が読めない子どもたち』を出版してから1年半。
多くの方から「腑に落ちた」という感想をいただきました。
まずは、文筆業のをされている方たち。
「物を書いて世に問うのだから批判されるのは覚悟している。けれども、近年あまりに理不尽かつ不可解な非難が多くて議論にならない。よぼど善意があるのかと思っていたが、この本を読んで、『もしかするとそういう人たちは文章を読めていないのかもしれない』と思い始めた」というのです。
次は学校の先生たちです。
小学校では、「算数の文章題を解けない生徒の多くが、『（問題で）何を聞かれているかわかる？』と聞いても答えられない。図にすれば解けるのだろうけど、図にすることができない。だからドリルは満点でも、文章題の答案は真っ白のままという生徒は少なくない。
それを読解力と結びつけて考えたことがなかったが、この本を読んで『確かに読解力が足りないんだろう』と思った」と言います。
私たちが考案した基礎的・汎用的読解力を測るリーディングスキルテスト（RST）は、「同義文判定」という問題群があります。
200字に満たない2つの文の意味が同じか、異なるか、二択で選択します。
この能力は記述式問題の答え合わせをする上で欠かせない能力です。
たとえば、こんな問題です。
・幕府は、1639年、ポルトガル人を追放し、大名には沿岸の警備を命じた。
・1638年、ポルトガル人は追放され、幕府は大名から沿岸の警備を命じられた。
以上の2つは同じ意味でしょうか。
中学生の正答率は57%にとどまりました。
「事実について淡々と書かれた短文」を正確に読むことは、実はそう簡単なことではなく、それが読めるかどうかで人生が大きく左右されることを実感するでしょう。
基礎的・汎用的読解力を身につけて中学校、そして高校を卒業させることこそが、21世紀の公教育が果たすべき役割の「一丁目一番地」だと共感してくださる方が一人でも増えることを切に願っています。
おわりに から抜粋
さて、前著の印税により、一般社団法人「教育のための科学研究所」は第6章でご紹介した「視力検査」のような仕組みで、短時間に正確に読解能力値を測るRST有償版の開発に成功し、2018年からRSTを広く提供できるようになりました。
この本の印税で次に「教育のための科学研究所」が何をしたいか。
それは、日本全国の幼稚園・保育園・小学校・高等学校のホームページを無償で提供することです。
私は、2005年から教育機関向けのグループウェアであるNetCommons（ネットコモンズ）をオープンソースで提供してきました。
開発コンセプトは「小学校のパソコン操作に自信のない教員でも簡単にそして安全に情報発信ができる学校ホームページソフトを提供する」こと。
ネットコモンズを使えば、業者に頼まなくても、またパソコンが得意な先生が頑張らなくても、ブログやツイッターで発信する手軽さで、学校ホームページを更新することができます。
ただし、学校が公式に情報を発信するのですから、教頭先生や校長先生が内容に目を通して決裁する必要があるでしょう。
そのための「ワークフロー機能」もちゃんとついています。
ネットコモンズは無償なので、どちらかというと財政的に余裕のない県ーーー鳥取県、北海道、岩手県などーーから導入が進みました。
そういう中で、2011年東日本大震災が起こりました。
被災県はどこもネットコモンズのユーザーでした。
福島県の教育センターには、震災直前に導入されたばかりでした。
ネットで福島県、岩手県の教育センターのホームページにアクセスしてもつながらない…。
一方、クラウド上でネットコモンズを利用していた学校は、地震直後から避難所閉鎖まで学校ホームページから次々と情報を発信し続けました。
一方の文部科学省は、実は各学校の基本情報、たとえば、学校名、住所、電話番号、生徒数、教員数、ホームページアドレス、緊急用メールアドレス、耐震工事が済んでいるかどうかなどの情報を検索可能な形で把握していませんでした。
私は、2012年から、学校のホームページは安全なクラウド上に移し、学校基本情報や緊急情報などを機械が理解できる形で集約すべきだ、とあらゆる機会に説いてきました。
もちろん文部科学省には真っ先にお願いに行きました。
でもどこの省にも「必要なことだし、大変良いことだけれども、うちでは引き受けられない」と言われました。
その間にも熊本や北海道で地震が起きました。
もう待つことはできません。
そこで、「教育のための科学研究所」では、まずは国公立・私立の区別なく、すべての幼稚園・保育園・小中学校に対して、基本的なホームページを無償で提供するプラットフォーム「edumap」を2020年春に向けて準備することを決めました。
好きなだけ使ってくださいと言えるほどお金はないので、1機関5ギガまで。
それ以上は実費を頂きます。
以上のどれかに該当する自治体や学校は、ぜひedumapに学校のホームページを移すことをご検討ください。
1. 自治体内にサーバを設置している。
2. サーバのメンテナンスに教育委員会がお金を払っている。しかし、OSなどのメンテナンスが長期間行われていない。
3. 情報の更新が1ヶ月に1回以下である。
4. 学校内の特定のパソコンからしか学校ホームページの内容の更新ができない。
5. パソコンからでないと読みづらい学校のホームページである。
6. 保護者への情報伝達は紙のおたよりと、日本語でのメール配信か電話連絡である。紙のおたより類をスキャンして、PDFファイルにして学校ホームページにアップしている。
もし、あなたのお子さんが通う学校が、まだ機械可読でない古いホームページを、しかも有償でメンテナンスしているなら、どうかedumapがあるということを、伝えてください。
そのことで、教員の多忙感が軽減され、「読解力向上」のような教員が本来するべき仕事に集中することができる日が来ることを願っています。
こんなに高い視座をお持ちの方なのか
と思うか、ビジネスの一環かあ、
と思うかで持つ印象は異なろうと思いますが
どちらにせよ、私が思うのは
自分の思いを形にして世の中へ貢献され
価値が認められているってのは
素晴らしいと思うってことでございましたこと
謹んでご報告させていただきたく
そろそろ夕飯を作り始めたいと思う所存で
アレクサに無洗米に水をつけたので
30分アラームと告げたのでした。