人工知能(AI)が世界を席巻しています。 それはあらゆる分野を変革し、その過程で社会と人類の将来に対する重大な倫理的懸念を引き起こしています。 ソーシャル メディアを席巻している ChatGPT は、OpenAI が開発した AI を活用したチャットボットです。 これは機械学習のサブセットであり、人間のような応答を生成できる、いわゆる大規模言語モデルに依存しています。 このようなテクノロジーの応用可能性は確かに膨大であり、それが ChatGPT のような AI を規制するよう求める声がすでにある理由です。
AIは人間を超えることができるのか? それは公共の脅威となるでしょうか? 実際、AI は実存の脅威になり得るのでしょうか? 世界の優れた言語学者 ノーム·チョムスキーそして、その知的身長はガリレオ、ニュートン、デカルトと比較される史上最も尊敬される知識人の一人である彼は、続くインタビューでこれらの厄介な質問に取り組みます。
CJ ポリクロニオウ: 科学分野としての人工知能 (AI) は 1950 年代にまで遡りますが、ここ数十年で銀行、保険、自動車製造、音楽、防衛などあらゆる分野に進出してきました。 実際、AI テクニックの使用は、チェスのゲームなど、場合によっては人間の能力を超えることが示されています。 機械は人間より賢くなる可能性がありますか?
ノーム·チョムスキー: 用語を明確にするために、ここでの「マシン」という用語は プログラム、基本的にはコンピューターで実行できる表記法で書かれた理論であり、興味深い方法で珍しい種類の理論であることはここでは脇に置いておくことができます。
純粋な工学と科学は大まかに区別できます。 明確な境界はありませんが、最初の近似値としては役立ちます。 純粋なエンジニアリングは、何らかの役に立つ可能性のある製品を生産することを目指しています。 科学は理解を求めます。 テーマが人間の知性や他の生物の認知能力である場合、科学はこれらの生物学的システムの理解を求めます。
私の理解によれば、AI の創始者であるアラン チューリング、ハーバート サイモン、マービン ミンスキーらは、AI を、当時新興していた認知科学の一部である科学としてみなし、新しいテクノロジーや数学的計算理論の発見を利用して、事前の理解。 長年にわたり、こうした懸念は薄れ、エンジニアリングの方向性によって主に置き換えられてきました。 以前の懸念は現在では一般に、GOFAI (古き良き AI) として、時には見下すような形で無視されています。
質問を続けますが、人間の能力を超えたプログラムが考案される可能性はありますか? 「能力」という言葉には注意する必要がありますが、その理由については後で説明します。 しかし、この用語を人間のパフォーマンスを指すものとすると、答えは「間違いなくそうです」です。 実際、ラップトップの電卓など、それらは古くから存在していました。 時間と記憶力が足りないというだけの理由で、それは人間ができることをはるかに超える可能性があります。 チェスのようなクローズド システムの場合、大規模なコンピューティング能力の進歩と長い準備期間があれば、遅かれ早かれ、メモリを制限してプレイしているグランドマスターを倒すプログラムが考案される可能性があることは、50 年代にはよく理解されていました。そして時間。 数年後のこの成果は、IBM にとってほぼ PR となりました。 多くの生物は、人間の認知能力をはるかに超えています。 私の裏庭にいるサバクアリの脳は非常に小さいですが、性能だけでなく原理的には人間の航行能力をはるかに超えています。 人間を頂点とする存在の大連鎖など存在しない。
AIエンジニアリングの成果物は、良くも悪くもさまざまな分野で活用されています。 シンプルで馴染みのあるものであっても、非常に役立つ場合があります。言語分野では、自動入力、ライブ文字起こし、Google 翻訳などのプログラムが挙げられます。 計算能力が大幅に向上し、プログラミングがより洗練されれば、科学分野でも他の有用なアプリケーションが見つかるはずです。 すでにいくつかの例があります。タンパク質のフォールディングの研究を支援することは、大規模かつ迅速な検索テクノロジーが科学者が重大かつ難解な問題に対処するのに役立っている最近の XNUMX つの事例です。
エンジニアリング プロジェクトは有益な場合もあれば、有害な場合もあります。 エンジニアリング AI の場合、両方の疑問が生じます。 チャットボットを含む大規模言語モデル (LLM) を使用した現在の取り組みは、偽情報、中傷、情報のない人々を誤解させるためのツールを提供します。 人工的な画像や音声の複製と組み合わせると、脅威はさらに強化されます。 さまざまな懸念を念頭に置いて、数万人の AI 研究者が最近、 呼ばれます 彼らは潜在的な危険性を認識しているため、開発の一時停止を求めています。
いつものように、テクノロジーの潜在的な利点と潜在的なコストを比較検討する必要があります。
AI と科学に目を向けると、まったく異なる疑問が生じます。 ここでは法外で無謀な主張がメディアで増幅されることが多いため、注意が必要です。 問題を明確にするために、いくつかの仮説と実際の事例を考えてみましょう。
昆虫のナビゲーションについて触れましたが、これは驚くべき成果です。 昆虫科学者は、それがどのように達成されるかの研究で大きな進歩を遂げてきたが、神経生理学という非常に難しい問題は、システムの進化とともに依然としてとらえどころのないままである。 同じことは、何千マイルも旅をして、間違いなく元の場所に戻ってくる鳥やウミガメの驚くべき偉業にも当てはまります。
エンジニアリング AI の支持者であるトム ジョーンズがやって来て、こう言ったとします。 問題は解決された。 民間航空会社のパイロットは、常に同じかそれ以上の成績を収めています。」
わざわざ答えるのが面倒なら、笑ってしまうだろう。
先住民部族の中で今も生きているポリネシア人が、星、風、流れを利用して、何百マイルも離れた指定された場所にカヌーを着陸させるという航海の偉業を例に考えてみましょう。 これもまた、彼らがどのようにそれを行うのかを知るために多くの研究のテーマとなっています。 トム・ジョーンズは次のように答えています。 海軍艦艇は常にそれを行っています。」
同じ反応です。
ここで実際のケースである言語習得に移りましょう。 これは近年、広範で非常に啓発的な研究のテーマとなっており、乳児は周囲の言語(または複数の言語)について、パフォーマンスで示す以上に非常に豊富な知識を持っていることが示されています。 それはわずかな証拠で達成され、いくつかの重大なケースではまったく証拠がありません。 注意深い統計研究が示しているように、特に順位頻度 (「ジップの法則」) を考慮した場合、入手可能なデータはせいぜいまばらです。
トム・ジョーンズが登場します。「あなたは論破されました。 あなたの発見には注意を払わず、天文学的な量のデータをスキャンする LLM は、トレーニングの対象となるデータをシミュレートすることを可能にする統計的規則性を発見し、通常の人間の行動によく似たものを生成します。 チャットボット。」
このケースは他のケースとは異なります。 まず、それは本物です。 第二に、人は笑わない。 実際、多くの人が畏怖の念を抱いています。 第三に、仮定のケースとは異なり、実際の結果は主張されているものとはかけ離れています。
これらの考察は、現在の LLM の熱意に関する小さな問題を提起します。それは、私たちがすぐにそれを認識する仮想的なケースのように、その完全な不合理です。 しかし、不条理よりもはるかに深刻な問題があります。
XNUMX つは、LLM システムは、言語、学習、その他の認知の側面については何も教えてくれないように設計されており、これは原則として取り返しのつかないことです。 スキャンされるデータのテラバイトが XNUMX 倍になり、パラメータがさらに XNUMX 兆追加され、カリフォルニアのエネルギーがさらに多く使用されれば、行動のシミュレーションは改善される一方で、理解を得るアプローチの原則的な失敗がより明確に明らかになります。 その理由は初歩的なものです。このシステムは、幼児が習得できない不可能な言語でも、急速かつ実質的に反射的に習得する言語でも同様に機能します。
それはあたかも生物学者が次のように言っているかのようです。 そこには存在するものも、存在し得ないものもたくさんリストされていますが、その区別については何も言えません。」
もう一度言いますが、私たちは笑います。 あるいはそうすべきだ。
トム・ジョーンズではなく、実際の事件について言及しています。 科学からの根本的な逸脱を主張し続けるトム・ジョーンズは、「すべての言語を調査するまで、どうしてそんなことがわかるのですか?」と答えます。 この時点で、通常の科学の放棄がさらに明確になります。 議論が同等であるため、遺伝学、分子生物学、進化論、そして生物のほんの一部しかサンプリングしていない残りの生物科学を放棄することができます。 そして、さらに言えば、物理学をすべて取り除くことができます。 なぜ運動法則を信じるのでしょうか? 動いている物体が実際に観察されたことは何個あるでしょうか?
さらに、立証責任という小さな問題がある。 理論を提案する人には、その理論がある程度理にかなっていることを示す責任があります。この場合、それが不可能な言語では機能しないことを示すことになります。 この提案に反論するのは他人の責任ではありませんが、この場合、そうするのは簡単に思えます。
物事が面白くなる通常の科学に注目を移してみましょう。 言語習得の XNUMX つの例だけでも、可能な言語と不可能な言語の区別について豊かな洞察が得られます。
理由は単純明快で、よく知られています。 「学習」と呼ばれるものを含むすべての成長と発達は、生物の状態から始まり、それを段階的に後の段階に変化させるプロセスです。
言語の獲得とはそのようなプロセスです。 初期状態は言語能力の生物学的才能であり、たとえそれが他の能力の特定の組み合わせであると信じている人もいるとしても、明らかに存在します。 長い間理解されてきた理由から、その可能性は非常に低いですが、それはここでの懸念とは無関係なので、脇に置いておいても構いません。 明らかに、人間の言語能力には生物学的な才能が備わっています。 単なる自明の理。
移行は比較的安定した状態に進み、言語の知識を超えて表面的にのみ変化します。 外部データがプロセスをトリガーし、部分的に形成します。 達成された状態 (言語の知識) と外部データを研究すると、初期状態、つまり言語習得を可能にする生物学的素養について広範囲にわたる結論を導き出すことができます。 初期状態に関する結論により、可能な言語と不可能な言語の区別が課されます。 この区別は、初期状態を共有するすべての人、つまり知られている限りすべての人間に当てはまります。 既存の人間集団の間で言語を習得する能力に差はないようです。
これらはすべて通常の科学であり、多くの成果を上げています。
実験によれば、安定状態は実質的に非常に早い時期、つまり3歳から4歳までに得られることが示されている。 また、言語能力には人間に特有の基本的な特性があることも十分に確立されており、したがって言語能力は真の種の特性であり、人間の集団に共通であり、根本的な点で人間に特有の特質である。
この図式的な説明では多くのことが省略されていますが、特に成長と発展における自然法の役割、つまり言語のような計算システムの場合、計算効率の原則が省略されています。 しかし、これが問題の本質なのです。 繰り返しますが、通常の科学です。
アリストテレスの知識の所有と知識の使用(現代の用語では、能力とパフォーマンス)の区別を明確にすることが重要です。 言語の場合、得られる安定状態は、脳内にコード化された知識の所有です。 内部システムは、構造化された表現の無制限の配列を決定します。そのそれぞれは、何らかの感覚運動システムで外部化可能な思考を形成するものとみなすことができ、通常は音ですが、それは記号であったり、(困難ではありますが)接触でさえあります。
内部的にコード化されたシステムは、知識 (パフォーマンス) を使用してアクセスされます。 パフォーマンスには、思索、計画、回想など、思考における言語の内部使用が含まれます。 統計的に言えば、これは圧倒的な言語使用量です。 比喩的に言えば、通常の科学の方法によって「外部」からそれについて多くを学ぶことはできますが、内省することはできません。 「内なる発話」と呼ばれるものは、実際には、調音装置がミュートされて外在化された言語の断片である。 それは言語の内部使用をほんの少し反映したものにすぎず、重要な事柄についてはここで追及することはできません。
言語の使用の他の形式には、知覚(解析)と生成があり、後者には、現代科学の黎明期にガリレオとその同時代人が畏敬の念を持って見ていたときと同じように、今日の私たちにとって謎のままである特性が決定的に関与しています。
科学の主な目標は、人間の言語能力の初期状態と、言語習得の際に想定される特定の形態の両方で、内部システムを発見することです。 この内部システムが理解される限り、言語の使用に関与する他の多くの要素と相互作用しながら、それがどのようにパフォーマンスに影響を与えるかを調査することができます。
パフォーマンスのデータは、内部システムの性質に関する証拠を提供します。特に、標準的な現場作業のように、実験によって改良される場合にはそうです。 しかし、最も大規模なデータ収集であっても、重要な点で誤解を招く可能性は必ずあります。 それは、言語の性質とその使用を理解したい人にとっての主な研究対象である、脳内でコード化された言語の知識ではなく、通常生成されるものにとどまります。 その内部オブジェクトは、60 年前に研究されたテーマである短期記憶の制約など、言語とは無関係な要因により、通常の行動では使用されない種類の無限の可能性を決定します。 観察されたデータには、脳内でコード化されたシステムの外側にあるものも多く含まれており、多くの場合、修辞目的でルールに違反する方法で意識的に言語が使用されています。 これらは、無関係な制限や逸脱した表現を排除した洗練されたコーパスを生成するために、情報提供者からの引き出しテクニック、基本的には実験に依存しているすべての現場作業者に知られている自明の理です。 言語学者が自らを情報提供者として利用する場合にも同様のことが当てはまり、これは現在に至るまでの心理学の歴史において一般的な、完全に理にかなった通常の手順である。
通常の科学をさらに進めると、言語の内部プロセスや要素は、観察された現象の検査によっては検出できないことがわかります。 多くの場合、これらの要素はスピーチ (または文書) の中にさえ現れませんが、その影響は、多くの場合、微妙なものですが、検出することができます。 これが、LLM アプローチのように観察された現象に制限すると、言語の性質、その習得と使用についての探究の中心的な対象である内部プロセスの理解を大幅に制限するもう XNUMX つの理由です。 しかし、科学や理解への関心が放棄され、他の目標が優先されているのであれば、それは意味がありません。
より一般的な科学では、何千年もの間、現象からの根本的な抽象化である実験、多くの場合思考実験によって結論が得られてきました。 実験は理論に基づいて行われ、言語能力など、観察された現象に含まれる無数の無関係な要素を排除しようとします。 これらはすべて非常に初歩的なものであるため、議論されることさえほとんどありません。 そしておなじみ。 前述したように、基本的な区別は、知識の所有と知識の使用との間のアリストテレスの区別に遡ります。 前者が中心的な研究対象です。 二次的(そして非常に本格的な)研究では、直接観察されるもの以外の多くの非言語的要因とともに、内部に保存された知識システムがパフォーマンスでどのように使用されるかを調査します。
また、主にショウジョウバエの研究で有名な進化生物学者テオドシウス・ドブジャンスキーの観察を思い出すかもしれません。「それぞれの種はユニークであり、人間はすべての中で最もユニークです。」 2,500 年前のデルフィック神託の命令に従って、私たちがどのような生き物であるかを理解することに興味がある場合、私たちは人間をすべての中で最もユニークにしているもの、主に言語と思考が密接に絡み合っていることに主に関心を持つことになります。古典的なギリシャとインドにまで遡る豊かな伝統。 ほとんどの行動はかなり日常的なものであるため、ある程度は予測可能です。 何が私たちをユニークにしているのかについての真の洞察を提供してくれるのは、何が日常的ではないかということであり、普通の子供から偉大な芸術家や科学者に至るまで、時には実験によって、時には観察によって、私たちはそれを見つけます。
これに関連して最後にコメントを XNUMX つ。 社会は一世紀にわたり、科学軽視を奨励する大規模な企業キャンペーンに悩まされてきた。このテーマはナオミ・オレスケスらによってよく研究されている。 それは、鉛、タバコ、アスベスト、後には化石燃料など、殺人的な製品を扱う企業から始まりました。 彼らの動機は理解できる。 資本主義社会におけるビジネスの目標は利益であり、人類の幸福ではありません。 これは制度上の事実です。ゲームをプレイしないと退場となり、プレイする誰かが代わりになります。
企業の広報部門は、自社製品の致死効果に関する増え続ける科学的証拠を否定するのは間違いであることを早い段階から認識していました。 それは簡単に否定されるだろう。 疑いを植え付け、不確実性を助長し、家のペンキを塗ったこともないのにワシントンからやって来て鉛塗料を使わないように言い、私のビジネスを台無しにするこのとがった頭のスーツを軽蔑した方が良い(実際のケース、簡単に倍増します)。 それはとてもうまくいきました。 今、それは私たちを地球上の組織化された人間の生活の破壊への道へと導いています。
知識界でも、ポストモダンの科学批判によって同様の効果が生み出されてきました。 解体 ジャン・ブリクモントとアラン・ソーカルによるものですが、一部のサークルでは今でも多くの人が生きています。
この質問を提案するのは不親切かもしれないが、トム・ジョーンズと、彼らの不注意な発言を無批判に繰り返し、さらには増幅させる人々が、同じ有害な傾向に貢献しているかどうかを尋ねるのは公正だと思う。
CJP: ChatGPT は、人工知能を使用して人間のような会話を可能にする自然言語駆動のチャットボットです。 最近の記事で ニューヨークタイムズ、あなたは他の XNUMX 人の著者と協力して、新しいチャットボットが人間の言語能力にまったく匹敵しないという理由で、誇大宣伝としてその新しいチャットボットを閉鎖しました。 しかし、将来の AI のイノベーションによって、人間の能力に匹敵する、あるいはそれを超えるエンジニアリング プロジェクトが生み出される可能性はあるのではないでしょうか?
NC: この記事の功績は、実際の著者である、優れた数学者、言語学者、哲学者である Jeffrey Watumull に与えられるべきです。 共著者として挙げられた XNUMX 人はコンサルタントであり、記事には同意しましたが、執筆はしていませんでした。
確かに、上で繰り返した理由により、チャットボットは原理的に人間の言語能力に匹敵することができません。 それらの基本的な設計により、人間の言語理論が適切であるという最小限の条件、つまり可能な言語と不可能な言語を区別することができなくなります。 これは設計上の特性であるため、この種の AI の今後のイノベーションによって克服することはできません。 しかし、将来のエンジニアリングプロジェクトが人間の能力、つまり人間の行動能力やパフォーマンスに匹敵する、あるいはそれを超える可能性は十分にあります。 上で述べたように、自動計算機など、以前からそうしてきた人もいます。 さらに興味深いことに、前述したように、非常に小さな脳を持つ昆虫は、能力として理解されている人間の能力を超えています。
CJP: 前述の記事では、今日の AI プロジェクトには人間の道徳的能力が備わっていないことも観察されました。 この明らかな事実により、AI ロボットは人類に対する脅威ではなくなるのでしょうか? おそらくそれが彼らをさらにそうさせるのではないかという議論があると思います。
NC:「道徳能力」を広く理解する上では、それは確かに明白な事実です。 注意深く制御しない限り、AI エンジニアリングは重大な脅威をもたらす可能性があります。 たとえば、患者のケアが自動化されたとします。 人間の判断によって克服されるであろう避けられないエラーは、恐ろしい物語を生み出す可能性があります。 あるいは、自動ミサイル防衛システムによって決定される脅威の評価から人間が除外されたと仮定してください。 衝撃的な歴史的記録として インフォーム 私たち、それは人類の文明の終わりです。
注意深く制御しない限り、AI エンジニアリングは重大な脅威をもたらす可能性があります。
CJP:欧州の規制当局と法執行機関はChatGPTの蔓延について懸念を表明しているが、最近提出された欧州連合の法案では、認識されているリスクのレベルに応じてAIツールを分類することでAIに対処しようとしている。 ChatGPT が公共の重大な脅威となることを懸念する人々に同意しますか? さらに、セーフガードが導入されるまで AI ツールのさらなる開発を停止できると本当に思いますか?
NC:今回の件も含め、先端テクノロジーによる脅威をコントロールしようとする取り組みには、とても共感できます。 しかし、私はその可能性については懐疑的です。 魔神がボトルから出てきたのではないかと思います。 組織的であれ個人であれ、悪意を持った攻撃者はおそらく安全策を回避する方法を見つけることができます。 もちろん、そのような疑いがあるからといって、試してみたり、警戒したりしない理由にはなりません。
ZNetwork の資金は読者の寛大さによってのみ賄われています。
ご支援のお願い