青少年育成市民会議理事会で [教育]
昨日、青少年育成市民会議理事会。宛職で議長役。20人のメンバーのうち半数欠席。「昭和55年にできたこの組織、当時はそれなりの切実な課題があってできたんだろうけど、今は当初の問題は解決していい世の中になったということの反映か。」と挨拶。今年度の活動計画の協議の中で、警察署生活安全課長さんと市中学校校長会代表の校長先生に「今の子どもたち、青少年たちの切実な問題があるとすれば何ですか。」と訊ねてみた。課長さんからはSNSに根ざす性に関わる問題が指摘され、校長先生からはSNSとともに、うまく人間関係をつくれないという問題が出された。そこから出発していろんな意見が出され、少人数なりのいい会になったが、今振り返って私の感想。
SNSについてはちょうど『プレ・シンギュラリティ』を読み終えたところで、議論の最後の方で市PTA連合会長さんの「SNSについて批判的視点から語ってみたところで、私たち大人が子どもたちよりどれだけわかっているかと言えば、若い人の方がずっと進んでいるわけだから・・・」の意見に共感。
人間関係の問題については、校長先生は「こういう会議でというよりも、医療、福祉の方での解決になるかと・・・」と言われたが、私はこういう問題こそこういう会議で取り上げねばならない問題なのではと、昨年読んだ『生き心地の良い町 この自殺率の低さには理由(わけ)がある』を思い起こしつつ思ったことでした。
『プレ・シンギュラリティ』、アマゾンレビューしてきました。星は３つです。
* * * * *
だが、しかし・・・
《数十年前であれば、個人が一生をかけて調査をしたり、研究をしなくては得られなかった貴重な情報が、瞬時にして誰にでも手に入ってしまう現代という時代は、知的好奇心を満たすのには、奇跡的で夢のような時代であるだろう。》（211p）
調べものをしていてこのことはよくわかる。「かつてこれだけ書くのにどれだけの手間と時間を要したことか」と。
《言ってみれば、我々は知識と情報の大海を、有り得ないほどに高速で移動できる船に乗って、自由に冒険しているようなものである。様々な分野や領域にまたがる、無数の知識と情報が、その大海原には無限に横たわっており、そのすべてを我々は訪れて見て回ることができるのである。》（212p）
コンピューターの性能は誕生からの50年間で100億倍になった。今後その数字はさらに等比級数的に倍してゆく。いずれ一つのコンピューターが人間の全知性を凌駕する時が来る。その経歴において知と技術の最先端に在る著者にして描き得る夢の世界・・・
そんな折、しばらくぶりに親しい友人と車で外に出て、小雨に煙る若葉の景色の中でふと感じた、懐かしい遠い記憶が甦るような充たされた既視感。
私が感じた実存の感覚と著者の描く夢の世界とのこの隔たりは何なのだろうか。人類が積み重ねてきた太古からの体験の重みが持つ、コンピューターが実現するヴァーチャル世界との対極性なのかもしれない。
人工知能が勝手に「独自の言語で話す」恐るべき時代の到来（Forbes JAPAN）
http://www.asyura2.com/17/hasan122/msg/879.html
投稿者 赤かぶ 日時 2017 年 8 月 06 日 14:13:08: igsppGRN/E9PQ kNSCqYLU
「人工知能が勝手に「独自の言語で話す」恐るべき時代の到来」？
だがしかし、「人間の実存感覚」の優位性はゆるがない、そう思う。
* * * * *
人工知能が勝手に「独自の言語で話す」恐るべき時代の到来
https://headlines.yahoo.co.jp/article?a=20170806-00017214-forbes-sci
Forbes JAPAN 8/6(日) 11:30配信
フェイスブックが開発したAI（人工知能）が人間には理解できない独自の言語で会話をはじめ、同社はこのプロジェクトを緊急停止させた。
7月下旬、フェイスブックのAI研究チーム（FAIR：Facebook AI Research Lab）はチャットボット同士が、人間の指示を受けずに会話を行っていることを突き止めた。この事実は人類の想像を上回る偉業とも言えるが、同時にAIが恐ろしいほどのポテンシャルを持っていることを示している。
人工知能はまだ一般に広く認知されるレベルには普及していないが、近い将来、多くの人に恐怖を与える段階に達するだろう。人工知能研究の世界的権威として知られるレイ・カーツワイル（Ray Kurzweil）は数年前に、シンギュラリティ（singularity）に関する警告を発していた。
日本語では「技術的特異点」と訳されるシンギュラリティを、オックスフォード英語辞典は「人工知能の進化が極度に進み、人間の能力を超えてもう後戻りはできない状況に達する仮説的状況」と定義している。
これは、アマゾンのアレクサが人間の会話に聞き耳を立てたり、アップルのSiriが利用者のスケジュールや位置情報を詳しく知りすぎるといった単純な話ではない。音声アシスタントと人工知能の間には一般の人々が想像する以上の大きな隔たりがある。
現状の音声アシスタントはウェブの検索や基本的な音声認識技術を利用したものであり、このレベルの「知能」と呼ばれるものは、マシンラーニングやAIと比較すると非常に低レベルだ。アレクサやSiriはIBMのワトソンなどとは全く別次元のプロダクトなのだ。
■ホーキング博士もAIの危険性を警告
イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。
「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。
人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。
マシンラーニングや人工知能は物事を究極的に単純化し、人類の暮らしの変化を加速させるだろう。コンピュータは人類をはるかに上回る処理能力でデータを分析し、世界の情報処理に爆発的進化をもたらす。
しかし、筆者はこれが世界の終わりだと言いたい訳ではない。また、全てのマシンラーニングや人工知能プロジェクトから撤退すべきだと主張したい訳でもない。人工知能の導入にあたっては非常に注意深く物事に取り組んでいく必要があるのだ。
人工知能が人間の手を借りずに独自の進化を遂げる様子を注意深く観察し、問題が生じればすぐに停止を命じる準備をしておくべきだ。AIがAI同士でしか通用しない言語で会話を始めた場合には、人間のコントロールを超えた領域に彼らが進化したと見なすべきであり、それは人類にとって大きな脅威であると認識すべきなのだ。
Forbes JAPAN 編集部
by めい (2017-08-07 01:36)
《「現代のAIは人間の目に見えないブラックボックスの面がある」（知の死角）》
* * * * *
米国から恐れられた日本のIT技術、AIの死角に着目
世界をリードする東京大学は「知の死角」とどう向き合っているか
2017.8.4（金） 伊東 乾
報道でAIとかIoTといった文字を見ない日はほとんどありません。いったい今回の「AIブーム」何が特徴的で何に気をつける必要があるか、もっと本質をついた解説があってもよいように思います。
そこで、私たち東京大学のグループが「知の死角」と呼んでいる問題に照準を合わせ、どのような対策が有効化を検討してみたいと思います。
初めに、五神真総長の言葉を引用して、ポイントを抜き出してみたいと思います。
■ブラックボックスAIの恐怖
「近年AI技術の中で注目されている機械学習や深層学習の相当部分は、ベイズ統計という確率統計理論に依拠したもので、従来の技術とはやや異質なところがあります」
「インプットした情報からアウトプット（結論）を出すまでの計算の過程がブラックボックスになっていることと結果がステップごとの論理の積み重ねで出ているわけではないのです」（五神真「変革を駆動する大学」p.158 東京大学出版会 2017）
こんなふうにクリアに認識している人が、どれほどいるでしょうか。少なくとも東大内で学部学生に質問しても、とりわけ1～2年生なら9割方、何も分かっていないと思います。
五神東大総長の言葉を引き続き引用しつつ、このポイントを検討してみましょう。
「普通の計算機プログラムであれば、エラーが起きると、プログラマーがそれを取り除く作業をして、その積み重ねで正確なプログラムを作っていきます。(中略）先のようなAIの場合はそうではありません。AIが出した結果が正しいのかどうかは証明できないのです」
単にブラックボックスというだけでなく、今日のAIのポイントは論理的にきれいに跡づけられるケースばかりではないこと。ここに注目する必要があります。
「いまうまく機能していると思っていたとしても、全く想定しないくらい大きく間違った結論を急に出してしまう可能性がないとは言えません。（中略）実は、人間の脳も同じ意味で処理プロセスが明らかでない部分が多いにもかかわらず、人間が社会を形成しています」
そうなんですね。第2次世界大戦後、ジョン・フォン・ノイマン主導による電子計算機の発明以来、20世紀型の「人工知能」は古典的に跡づけられるロジックを用いて、いわば因果的、あるいは職人的精密加工型で演算をプログラムし、実行してきた。
あえて言えば古典力学のように一つひとつのプロセスが明確、少し難しく言うなら「ニュートン型」のクラシカルな推論が行われていた。
ところが、2010年代の人口知能は、統計的な推論を積み重ねて結果を帰納していく、古典的な因果律とは大いに異なる「知性」として発展している。これに注目する必要があるのです。
やや難しいですが、現代の物理になぞらえれば「古典論」ならぬ「量子論」に近い「確率・統計型の知性」であることに注意する必要があります。
まあ、難しい表現は大学の中だけにして、以下では、まず
「現代のAIは人間の目に見えないブラックボックスの面がある」（知の死角）
「それを人間がていねいに跡づけていく必要がある」（知の翻案・知の架橋）
という根本課題があることを、銘記しておきましょう。これは2000年時点での東京大学「小宮山知識構造化」のAI-IoT対応の2030年モデルにアップデートする「ベクトル知識構造化」のメイン・ステートメントで、大学では私たちが推進している仕事にほかなりません。
■AIブームの「世代」とは何か？
今日のAIブームは「第3次AIブーム」と呼ばれます。この第3次AIブームの最大の落とし穴が「ブラックボックス」による知の死角を避けがたい点であると、いま記しました。第3次があるということは第1次と第2次もあるはずです。
第1次AIブームとは、フォン・ノイマン型汎用電子計算機の発明（1946年2月14日のENIAC完成を端緒とする）の直後、単なる汎用計算機ではなく、それを人工的な頭脳として、通信やロボット工学などに応用できるよう、拡大する取り組みからスタートしたと言ってよいでしょう。
主導者はマサチューセッツ工科大学（MIT）教授のノーバート・ウィーナーで、彼の提唱した人口知能学は、ギリシャ語で「操舵する人」の意を持つ「キュベルネテス」からサイバネティクス（Cybernetics）と呼ばれました。
現在でも「サイボーグ009」とか「サイバー空間」といった言葉にサイバネティクスの片鱗は残っていますが、なにぶん当時は通信工学も制御工学も未発達、実際には「フィードバック」など現在では古典化した基礎的な概念と技術を生み出しつつ、サイバネティクスそのものは自然鎮火的に下火になっていきました。
この後、時代はどう推移したでしょうか。
発明当時は真空管をスイッチング素子に組み立てられていたコンピューターは、やがてトランジスタなど固体素子を用いることで、はるかに安定動作するようになります（第2世代コンピューター：1950年代～60年代前半頃まで）。
分かりやすいのはメインフレームによる放送の制御でしょう。日本では1953年2月1日、NHKのテレビ放送が開始されます。
いまだ受像機は数が限られ、民衆が街頭テレビで放送されるプロレス中継、力道山の空手チョップに熱狂していた頃、放送を支えていたのが「第2世代コンピューター」と考えて大きく外れません。
さらに、トランジスタやダイオードを組み合わせて半田づけしていた段階から、固体素子の技術が向上してIC（インテグレーテッド・サーキット＝集積回路）を用いることで、コンピューターが様々な技術分野に応用されるようになります（第3世代コンピューター：1965－）
この第3世代コンピューターが支えた技術としては、1969年7月20日、ニール・アームストロング宇宙飛行士らが月面着陸した「アポロ計画」が分かりやすい例でしょう。
言うまでもありませんが、第2、第3世代コンピューター発達の主な駆動源は米ソ冷戦による核ミサイル防衛網です。
特に、「悠長にトランジスタの半田づけなどしてられるか！」という第3世代への進化を推進したのは1962年のキューバ危機と言って大きく外れません。政治と国際緊張、軍事技術開発がイノベーションの大文字の歴史を牽引してきたのは、残念ですがまぎれもない事実です。
こうして集積回路の技術が進展し、米ソ冷戦を背景に「大型集積（LSI＝Large Scale Integration）」「超大型集積（SLSI＝Super Large Scale Integration）」と技術革新と世代交代が進む中で発表されたのが、1971年11月に発売された米インテルのマイクロプロセッサー「4004」でした。
これ以降、世界は「ワンチップコンピューター」第4世代コンピュータの時代に突入し、現在でもそれが続いていることを確認しておきましょう。
皆さんお手持ちのPCにも「インテル入ってる」と表示があるかと思いますが、これを発注したのが日本企業ビジコンであること、開発も日本人、嶋正利氏が決定的な貢献を果たしていることなどは、今日必ずしも正当に社会の多くが認識しているようには思われません。
1960年代、高度成長に沸く日本では熾烈な「電卓戦争」が戦われていました。
スーパーのレジをイメージするといいと思います。この電卓戦争で一歩リードするべく一大経営判断を下した日本の小さな電卓メーカー、ビジコンの果たした世界史的な役割については別途お話しするとして、ここでは1970年代初頭に確立された「第4世代コンピューター」の土台が、基本的に約半世紀変わっていないことを確認しておきたいと思います。
しばしば言及される｢ムーアの法則｣にしても、善くも悪しくもこの土台があってのこと、そしてその上に、原始的なサイバネティクスではなく、電卓ないしPCという「電脳ニューロン」を持つ電子頭脳を構想したのが、1970～80年代の「エキスパート・システム」すなわち「第2次AIブーム」だったわけです。
一言で言うと、最初に五神さんの言葉で引いたように、前回ブームのAIは、推論の過程を古典的に追って行くことができた。
五神さんは、実は高校・大学・学部学科（東京大学理学部物理学科）～現在までずっとご一緒の先輩にあたるのですが、1980年代の日本は今日とは大きく状況が異なり、研究室にはお金がなく、中庭に落っこちてる、お金持ちの研究室や工学部から出されたごみ（として処理されたコンピューターや資材）を拾ってきて、それを改造して何とかやりくりする、みたいな経験を私自身もしています。
ちなみに1982～92年にかけて「第5世代コンピューター」という国家プロジェクトがありました。私にとっては高校生から大学院にかけてなので、よく覚えています。
そういう技術が確立されたわけではなく、個々のコンピューターは現時点でも基本は第4世代、これが1990年代以降、冷戦終結とともにインターネットのグローバル商用展開となったわけです。
日本は世界に先駆けて、PCMの国際特許保持者、猪瀬博先生が率いられる文部省の「学術情報センター」（現「国立情報学研究所」）が独自のネットワーク「学情ネット」（現SINET）を走らせており、その先にネットークラウド～今日に至る主要な展開があるわけです。
ビジコンにしても学情ネットにしても、日本は真の意味で世界のパイオニアと言える個人が独創的な働きをして、この分野を牽引してきました。
逆にだからこそ、長年の同僚でもあった坂村健さんたちの「TRON」を筆頭に、オリジナルな日本の技術は必要以上に米国などに恐れられ、政治的にシェアを制限されるなど、幾多の攻撃を受けてもきました。
だからと言って、そこで萎縮すべきだとは思わないのです。私自身は1988年に猪瀬先生の下でAT&Tベル研・スタンフォード大学と「音楽と情報科学」という国際シンポジウムを開いた際、学部学生でしたがボードの末席に加えていただきました。
マックス・マシューズなどいまや伝説となってしまったパイオニアたちから「模倣はしない方がいい。独創たれ！ Be original」と励ましてもらい、ちっともはやらない地味な、でも本質的な仕事しかしないようになりました。
よく書く話ですが、当時工学部長だった猪瀬先生は学部学生の私に「10年かけてシステムインテグレーションなさることをお勧めします」とおっしゃり、確かに10年目に助教授で呼ばれましたので、私自身も選択は間違っていなかったと思います。
閑話休題、今回のAIブームも、その表層だけを見ていてはつまらないことにしかなりません。
1970年代のエキスパートシステムから2000年代のクラウド・コンピューティングまでと、2010年代以降の機械学習の本質的な違いは、確率・統計的なクラスタリングと、それに伴うブラックボックス、私の表現では「知の死角」になりますが、ここにポイントがあります。
ここから高速電子商取引における不正監視のブラックボックス・チェックなどの話題に続けたいところですが、紙幅がつきました。次回稿で展開したいと思います。
（つづく）
by めい (2017-08-07 05:36)