自動運転車がそれ自体を説明できれば、あなたはより安全だと思いますか?

画像:ホットタブタイムマシン2

人工知能が飛躍的に進歩するたびに、私たちはマシンにますます複雑で重要な決定を下すように求めています。問題は、AIが私たちの理解のレベルを超えて行動し始めていることです。たとえば、高頻度の株取引では、これがいわゆるフラッシュクラッシュにつながりました。このクラッシュでは、アルゴリズムが、私たちが完全に把握できない理由で、非常に迅速な決定を下します。ペンタゴンは、人間と機械の間の拡大するギャップを埋めるために、人間が理解できる方法で彼らの行動を説明できる機械を作成するための新しいプログラムを立ち上げています。

国防高等研究計画局(DARPA)は、オレゴン州立大学の工学部の8人のコンピューターサイエンス教授に650万ドルを寄付しています。ペンタゴンの高度な概念研究部門は、これらの専門家がAIの意思決定の概念ループ内に人間を維持する新しいシステムまたはプラットフォームを考案し、意思決定の際にそれらの決定を検討できるようになることを望んでいます。アイデアは、自動運転車や自律型空中ドローンなどのインテリジェンスベースのシステムをより信頼できるものにすることです。重要なのは、同じテクノロジーがより安全なAIをもたらす可能性もあるということです。

人間がAIの意思決定を理解していないという問題の一部は、今日のAIの仕組みに起因しています。今日の最も賢いロボットの多くは、特定の動作用にプログラムされているのではなく、機械学習と呼ばれるプロセスである多くの例から独自に学習することで動作します。残念ながら、これはシステムの開発者が理解すらできない解決策につながることがよくあります。コンピューターがチェスの動き をして、ゲームのトップグランドマスターでさえも困惑させると考えてください。同時に、システムはそれ自体を説明するいかなる種類のフィードバックも提供できません。

したがって、重要な決定を下さなければならないマシンに対してますます警戒するようになっています。で、最近の研究で は、ほとんどの参加者が自律走行車は、このような他のオプションが存在しない状態で10歩行者の代わりに車の乗員を殺すなど困難な倫理的な意思決定を、作るようにプログラムされなければならないことに合意しました。問題は、同じ回答者がそのような車に乗りたくないと言ったことです。私たちが危害を加えられていない限り、私たちのインテリジェントマシンが可能な限り倫理的および社会的に責任を持って行動することを望んでいるようです。

おそらく、内部を覗き込んでAIがどのように意思決定に到達するかを確認できれば、マシンをより信頼できるようになるでしょう。表示内容やAIがどのように決定を下したかに満足できない場合は、プラグを抜くか、特定の車を購入しないことを選択できます。あるいは、プログラマーとコンピューターサイエンティストは、AIに新しいデータ、またはさまざまなルールセットを提供して、マシンがより口当たりの良い決定を下せるようにすることもできます。

新しいDARPAの4年間の助成金の下で、研究者は、まさにこの目的を果たすために、人間とAIの間のコミュニケーションを促進するプラットフォームの開発に取り組みます。

「最終的には、これらの説明を非常に自然なものにしたいのです。これらの深いネットワークの決定を文と視覚化に変換します」と、助成金の主任研究員であり、工学部の共同ロボット工学およびインテリジェントシステム研究所の副所長であるAlanFernは述べています。

この学際的な取り組みの最初の段階では、研究者はStarCraftなどのリアルタイム戦略ゲームを使用して、人間に意思決定を説明する必要があるAI「プレーヤー」をトレーニングします。後で、研究者はこれらの調査結果をロボット工学と無人航空機に適応させます。

この研究は、人間と自動運転車の間の信頼を向上させるためだけでなく、さらに大きな責任を持つものを含むあらゆる種類の自律型機械にとって重要になる可能性があります。最終的には、敵の戦闘員を殺すため 人工知能の戦闘機が必要になる場合があります。その段階で、マシンが特定の方法で動作している理由を確実に知る必要があります。さらに先を見据えて、私たちはいつの日か、人間の知性をはるかに超えたAIの心を覗き込む必要があるかもしれません。これは簡単なことではありません。そのようなマシンは、一瞬で何千もの決定を計算することができます。将来のAIが行うすべてのことを理解することは不可能かもしれませんが、今問題について考えることで、将来のロボットの動作を制限するためのより良いショットが得られます。

[オレゴン州立大学]

提案された投稿

新たなAIリスクに関する新しいレポートは厳しい未来を描く

新たなAIリスクに関する新しいレポートは厳しい未来を描く

ブラックミラーのエピソード「メタルヘッド」のシーン。(クレジット:Netflix)新興技術の影響について20人以上の専門家が作成した新しいレポートは、人工知能が今後5〜10年間に新しい形態のサイバー犯罪、物理的攻撃、政治的混乱を可能にする方法について警鐘を鳴らしています。年。

Vizioの美しい新しい4Kテレビはこれまで以上に安い

Vizioの美しい新しい4Kテレビはこれまで以上に安い

Vizioは、安価な4Kテレビをさらに安くすることを止められません。同社は今年のMシリーズUltraHDスマートTVコレクションを発表したばかりです。

関連記事

中国で最も人気のあるアプリは、「黒人の外国人」をN-Wordとして翻訳した後に謝罪します

中国で最も人気のあるアプリは、「黒人の外国人」をN-Wordとして翻訳した後に謝罪します

画像:WeChat中国最大のメッセージングアプリであるWeChatの翻訳サービスは、「黒人の外国人」というフレーズの翻訳として人種差別的なスラーを提供した後、改造されています。上海を拠点とする黒人劇場のディレクター、アンジェームズは、同僚に英語でメッセージを送りました。水曜日、彼女は遅れていたと言った。

暗号通貨-マイニングマルウェアがFacebookMes​​sengerユーザーを標的

暗号通貨-マイニングマルウェアがFacebookMes​​sengerユーザーを標的

写真:Getty Securityの研究者は、Facebook Messengerユーザーを標的とする暗号通貨マイニングマルウェアを発見しました。Digmineと呼ばれるマルウェアは、通常video_xxxxという名前のビデオファイルに偽装されています。

トランプは彼が2015年にマイケルフリンを知らなかったと言います、それは大きなクソ嘘です

トランプは彼が2015年にマイケルフリンを知らなかったと言います、それは大きなクソ嘘です

2017年5月11日にNBCニュースのレスターホルトにインタビューしたドナルドトランプ大統領は、2015年にマイケルフリンを知らないと主張しました。これは嘘です(NBCニュース/ YouTube /スクリーンショット)昨夜、トランプ大統領はレスターと話しましたNBCニュースのインタビューでホルト。それは多くの理由で本当に驚異的な会話ですが、誰もが見逃しているように見える重要な嘘が1つあります。

Galaxy Note10 +はほぼ完璧です

Galaxy Note10 +はほぼ完璧です

電話が1,100ドルで小売りされるとき、それはただ良いだけではなく、素晴らしいものでなければなりません。他の携帯電話にはない機能を提供し、すべての標準的な指標で卓越性を維持し、仕事、遊び、またはほんの少しの映画鑑賞など、ほとんどすべての状況に対応できる必要があります。

MORE COOL STUFF

レディー・ガガがパスタとパンを食べて、「ハウス・オブ・グッチ」の役割のために彼女の体を準備する

レディー・ガガがパスタとパンを食べて、「ハウス・オブ・グッチ」の役割のために彼女の体を準備する

彼女はパトリツィア・レジアーニを演じるためにイタリア文化に没頭しただけでなく、伝統的なイタリア料理をたくさん食べるようにしました。

「ギルモア・ガールズ」:ローレライとエミリー・ギルモアの間の3つの心温まる瞬間

「ギルモア・ガールズ」:ローレライとエミリー・ギルモアの間の3つの心温まる瞬間

ローレライとエミリーギルモアは密接な関係を持っていませんでした。実際、「ギルモア・ガールズ」は彼らの関係を氷のように示しました。それでも、いくつかの暖かい瞬間がありました。

ルシルボールの遺産には、制作会社を経営する最初の女性であることが含まれます

ルシルボールの遺産には、制作会社を経営する最初の女性であることが含まれます

ルシルボールは、エンターテインメント業界のパイオニアです。

Josh Duggar News:受刑者が裁判で証言するのはなぜですか?ダガー家族評論家は理論を持っています

Josh Duggar News:受刑者が裁判で証言するのはなぜですか?ダガー家族評論家は理論を持っています

最近のジョシュダガーのニュースは、受刑者がダガーの裁判で証言するだろうと述べています。ダガー家の批評家は今、彼が誰であるか、そしてその理由についての理論を持っています。

ミニクロスワードをお試しください

ミニクロスワードをお試しください

毎週更新される私たちのミニクロスワードは、私たちのお気に入りのハウスタッフワークスの読みと頭のいい手がかりを組み合わせています!

どれが最も効果的ですか:洗濯ポッド、粉末または液体洗剤?

どれが最も効果的ですか:洗濯ポッド、粉末または液体洗剤?

適切な洗剤を選ぶことを心配することなく、洗濯をすることは十分に悪いことです。では、どちらが最適ですか?それとも重要ですか?

ケンタッキーの青い人々の実話

ケンタッキーの青い人々の実話

ケンタッキー州の田舎に住むFugatesとCombsの家族は、遺伝的宝くじを失いました。どちらも、結婚するにつれて肌が青く見える、まれな劣性形質を共有していました。これの原因は何でしたか?そして、家族はどうなりましたか?

カリフォルニアコンドルの「バージンバース」は種を救うことができますか?

カリフォルニアコンドルの「バージンバース」は種を救うことができますか?

カリフォルニアコンドルを絶滅から救うためのプログラムで、2羽の父親のいないオスのヒナが飼育されています。そのような「処女」の誕生はどのように可能ですか?

サタデーナイトライブコメディアン兼作家ピーターエイクロイドデッド66歳

サタデーナイトライブコメディアン兼作家ピーターエイクロイドデッド66歳

俳優のダンエイクロイドの兄弟であるピーターエイクロイドは、1979年のサタデーナイトライブの1シーズンで作家とキャストの両方のメンバーを務めました。

「攻撃的な癌」の診断後、ジョー・エキゾティックがノースカロライナ州の医療施設に移送された

「攻撃的な癌」の診断後、ジョー・エキゾティックがノースカロライナ州の医療施設に移送された

タイガーキングスターのジョセフ 'ジョーエキゾティック'マルドナド-パッセージは当初、彼の前立腺癌の診断を明らかにした後、今月後半に移管されることになっていた

CardiBとOffsetのDaughterKultureがInstagramで美しい新しいブレードを披露

CardiBとOffsetのDaughterKultureがInstagramで美しい新しいブレードを披露

Cardi BとOffsetの3歳の娘、Kultureは、Instagramで彼女の新しい編みこみのヘアスタイルを披露しました。

ジェリー・サインフェルドから書くことについて学ぶことができる7つのこと

矢田、矢田、矢田はその一人ではありません。

ジェリー・サインフェルドから書くことについて学ぶことができる7つのこと

今年の初め、Netflixはサインフェルドの最新プロジェクトであるCars GettingCoffeeのコメディアンを購入しました。各エピソードで、サインフェルドはユニークな車とユニークなコーヒーショップで別のコメディアンにインタビューします。

投資知識とシルバーサーファー

投資知識とシルバーサーファー

マーベルの「ヘラルド・オブ・ガラクタス」が投資の専門知識の向上にどのように役立つか「私は勝利の激しい高揚を知っています。私は敗北のかじる痛みを知っています。

私は外側が白ですが、ずっと黒です。

私は外側が白ですが、ずっと黒です。

「オレオ」は、私の家族が肌の色を裏切った黒人と呼んでいたものです。彼らは外見は黒く見えるかもしれないが、その行動は彼らが内面が白であることを示したものでした。

デジタルアクセシビリティ入門

デジタルアクセシビリティ入門

従来、これは障害を持つ人々のアクセシビリティと考えられていましたが、実際には、モバイルデバイスを使用したり、ネットワークへの接続が遅い他のユーザーグループも含まれます。このシリーズの記事では、コース、記事、ビデオレクチャーなど、さまざまなソースからの情報を体系化して、このトピックをできるだけ広くカバーするようにしました。これは、包括的なイベントであり、公開するのは非常に間違っているためです。デジタル製品の1つ以上のステージのみ。

Language