ニュース

May 03, 2023

Temple Grandin: AI と ChatGPT は優れていますが、依然として専門家が必要です。

Ho scoperto per la prima volta l’intelligenza artificiale nel 1968, quando ho visto un film che mi ha influenzato.

私が初めて AI について意識したのは 1968 年で、スタンリー・キューブリック監督の映画「2001 年宇宙の旅」を見て大きな影響を受けたときでした。 私は21歳でした。 私は SF 映画が大好きでしたが、この映画には特別な意味がありました。

自閉症の人として、私は感情や感情に基づくものよりも合理的で事実に基づいており、私のスピーチは単調または抑揚がないと言われます。 高校時代、何人かの子供たちは私を「ロボット」とか「テープレコーダー」と呼んでいました。 それが、私が HAL に共感した理由の 1 つです。HAL は、安定した声と非常に論理的な思考で、宇宙飛行士のミッションを手助けします (ミッションが終了するまで)。 しかし、1997 年に IBM コンピューターのディープ ブルーがチェスの世界チャンピオン ガルリー カスパロフを破るまで、私は AI にそれほど注目していませんでした。 それはゲームチェンジャーでした。 そして 2003 年、2 台の火星探査機が人間の制御なしで自力で火星の表面を航行するために送り込まれたとき、私は衝撃を受けました。

それ以来、AI は私たちの日常生活に浸透し、Siri、自動運転車、ソーシャル メディアのポップアップ広告、個人投資のためのアルゴリズムなどに活用されています。 つい最近、テクノロジー企業 OpenAI が ChatGPT を導入し、この注目すべきテクノロジーに無料でアクセスできるようになりました。 すでに、ChatGPT は司法試験に合格しています。

ChatGPT が私の仕事にどのような専門知識をもたらすことができるのかを知りたかったのです。 私は、牛の取り扱いの行動原則について短い文章を書くよう依頼しました。 私の論文の 1 つを正確に要約することができ、数学的分析の効果はそこに入力されたデータと同じであることが実証されました。 そこで、単に自分の著作を調べるだけでは済まないように、普段は使わない言葉遣いを使って、牛の正しい扱い方について短い文章を書いてもらいました。 関連する行動原則について正確かつ簡潔な文章が書かれています。 どちらの段落でも、実際に関連する参考文献が提供されていました。 しかし、あるケースでは、非常に悪い施設設計の古い図が含まれており、業界の新参者には重大な欠陥があるとは気づかないような設計でした。 AIを使用するあらゆる分野においては、今後も専門家が必要になります。

これまでのところ、AIに関する懸念のほとんどは、機械が人間の仕事を奪うのではないか、AIが人類を不要にするのではないかという点に集中していた。 この心配は見当違いだと思います。 技術革新が起きるたびに、いくつかの仕事が失われ、また別の仕事が生み出されます。 本当の危険は別のところにあると私は信じています。

私は自閉症であるだけでなく、非常に視覚的な思考の持ち主なので、意味はイメージから最初に思い浮かびます。 私の心は、物事がどのように起こるか、特にどのように間違っていくかを示す、ビデオと同等のものを実行するシミュレーターのようなものです。 これは、AI の根本的なブレークスルーをもたらした高度に抽象的な推論のアンチテーゼですが、この進歩が大きな犠牲にならないように特別に備えているのは、私のような視覚的思考者です。

ほとんどの人にとって、AI は抽象化されたものであり、魔法に似ています。 それは危険です。 道路や加工工場などの物理的なインフラと同じように、その脆弱性や現実世界への影響についても考えたほうがよいでしょう。 AI は私たちの世界の運営に役立ちますが、大規模で強力なユーティリティは失敗する可能性があります。 私は 50 年間、産業界で働いてきましたが、人間の失敗によって引き起こされる連鎖反応や、水道や電力システムなどの重要なインフラの脆弱性を目の当たりにしてきました。 たとえば、ハッカーが機器を制御するコンピューターを乗っ取った場合、これらのシステムはさらなる脅威にさらされることになります。AI プログラムがコンピューター コードを作成できるようになったため、その危険はさらに現実的になります。 水道網と電力網を保護する最善の方法は、熱くなりすぎたり、回転が速すぎたり、圧力が過剰に上昇したりした場合に、脆弱な機器を遮断する昔ながらの電気機械制御を使用することです。

ヘザー・タル・マーフィー

ハリウッド俳優たちが恐怖する未来を見てきた

続きを読む

ChatGPT を使って楽しく遊んでいます。 私の分野について質問することに加えて、私は紫色の空を飛ぶシマウマについての考えも尋ねました。 （そのような生き物は架空のものであり、雲や虹を食べると判断した。）しかし、ChatGPTの作成者であるOpenAIのトップであるサム・アルトマンが最近上院で述べたときに表明した警告にも私は共感する、「もしこの技術がうまくいかなかった場合、それは可能性がある」かなり間違っています。」 アルトマン氏は、ChatGPT がいかにして完全に説得力のある上院議員の演説をでっち上げることができるかを議員たちに示しながら、AI の自己複製や野生への逃亡をブロックすべきだと語った。 人間のオペレーターが十分な注意を払って介入しなかった場合、自分自身のクローンを作成した AI プログラムがデータセンターに侵入し、想像を絶する損害を与える可能性があります。 私たちが AI の恩恵を受けようとするのであれば、特に AI を独自の方法で使用するためのツールが広く入手できるようになった今では、AI を重要なインフラとして保護するだけでなく、一般の国民に基本的な AI の自己防衛を訓練する必要もあります。

科学的事実に頼る必要がある分野に携わる者は誰でも、科学データベースを検索して主張自体を検証する方法を知っておく必要があります。 非科学的だが物議を醸す主題については、人々はその主張を複数の信頼できる情報源と照合する方法を学ぶ必要があります。 フェイクニュースを大幅に拡大する可能性のあるフェイク写真を検出するための優れたソフトウェアが利用可能です。 私たちは人々にその使い方を教育しなければなりません。 そして、視覚的な問題解決のスキルを持ち、予期せぬ結果を心の目でシミュレーションし、リアルタイムで解決策を思い描くことができる人材は、有効に活用されなければなりません。 危険は抽象的な概念ではありません。 私たちが必要としているのは、私が住んでいる現実的な世界に住んでいる人々です。 外の世界の給水ポンプや送電網、あるいは家庭内の基本的な配管や電気の問題であっても、人々は物事を解決する方法を知る必要があります。 中学校でプログラミングができるようになったものの、ハンマーを握ったり針に糸を通したことがない子供たちがいるのではないかと心配しています。 彼らが政策立案者になったとしても、インフラなど現場の知識や能力に頼って効果的な政策を立てるのは非常に難しい。

AIの進歩よりも早く、身を守るために必要なことをすべて学ぶことができるでしょうか? このテクノロジーのもたらす影響は驚くべきものです。 研究者は、AI を使用して分子生物学的プロセスを理解し、操作する方法を開発しています。 誰かが新たな危険なウイルスを作成したらどうなるでしょうか? アルトマン氏の発言に関する報道によれば、AIが行う可能性のある究極の危険は「人間を操作して制御を放棄させること」だという。 兵器が飛来するというレーダー報告を偽造して、誰かを騙して原子弾頭を搭載した複数のミサイルを発射させたらどうなるでしょうか? レーダー報告を裏付ける、あるいは反証するような操作を検出できるソフトウェアや、熱を検出できる衛星技術はあるのでしょうか? 誰も一歩も踏み外さないように、この技術と必要な通信ネットワークを使用する訓練を受けた人材を確保するのでしょうか?

これらの質問は非常に複雑ですが、具体的な解決策を検討することで、私たちが思っている以上にコントロールできるようになります。 おそらく私たちは、核保有国の大統領を繋いでいた昔ながらの「赤電話」の固定電話に戻る必要があるだろう。 コンピューター化されていない電気機械装置を経由する赤い電話。 『2001年宇宙の旅』を観ていて、他の宇宙飛行士が死亡した後、デヴィッドがHALの電源を切らなければならなかったとき、私は泣きました。 HALにはオフスイッチがありました。 AI も同様です

Future Tense は、Slate、New America、アリゾナ州立大学のパートナーシップであり、新興テクノロジー、公共政策、社会を調査しています。