メニュー

新技術と倫理:技術者倫理の基礎知識6

技術者倫理の基礎知識

更新日:2018年9月5日(初回投稿)
著者:東京農工大学大学院 工学府産業技術専攻 教授 北原 義典

前回は、内部通報と内部告発を、事例を交えながら解説しました。今回は、新しい科学技術に関する倫理について説明します。科学技術が飛躍的に進化すると、倫理的な懸念も同時に生まれることがあります。現在、話題となっている新技術をトピックスに、倫理面からはどのような懸念や配慮すべき点があるのか、一緒に考えていきましょう。

今すぐ、技術資料をダウンロードする!(ログイン)

1. ビッグデータ・人工知能と倫理

最近は、あらゆる分野でAI(人工知能、Artificial Intelligence)という言葉が聞かれます。現在、AI技術の進化には、第3の波が押し寄せています。第1の波は1950年代で、ヒューリスティック(発見的)アプローチによる探索を柱とするAIでした。人間とチェッカー(ボードゲーム)やチェスで対戦するプログラムが代表的なものでした。次の波は1970年代で、知識に基づいた推論を行うAIが登場し、医療診断システムなど、エキスパートシステムが注目されました。

そして、現在の第3の波におけるAIの特徴は、ネットやセンサを介して収集した大量のデータから、ディープラーニングという機械学習手法でパターンを学習し、物事を判断したり予測するなど、より人間の脳内判断に近い処理を行うことです。例えば、家の中での人の行動パターンを学習し、それに対応してエアコンなどの家電を操作する、自動車を運転中の人間が眠くなるとアラートで知らせる、もしくは自動で運転する技術、声で尋ねると希望の音楽を流したり、ウェブでの検索結果を教えてくれるAIスピーカーなど、既に製品化されているものもあります。バッテリーの充電が少なくなると、ロボット自身がコンセントを探して充電に行くという研究も行われています。AIは、人間のプログラムに従って動作する段階から、自己学習し自律性を持つ段階へと移行しつつあります。

消費者は、PCやスマートフォン、さらにはクラウド(サーバ)上などにさまざまなデータを蓄積します。インターネット上に公開されているテキスト、写真、動画、音声、音楽データ、社内文書、メール、プレゼン資料、顧客データ、コールセンターの通話記録、ウェブサイト利用状況、さらにIC乗車券や防犯カメラにより集められたデータなど、現代は通常の生活を送っているだけでも、極めて大量のデータが日々生成されています。これがビッグデータです。ビッグデータは、少なくとも4つのリスクを内包しています(図1)。

図1:ビッグデータと4つのリスク

図1:ビッグデータと4つのリスク

第1に、不正アクセスなどにより、個人情報や行動情報(ライフログ)が多く含まれるパーソナルデータが漏えいするリスクです。第2に、クラウドにシステム障害が生じた場合、蓄積されていた重要データが消滅する可能性です。第3に、SNSや投稿サイトなどで、著作権や肖像権を侵害、もしくは侵害される可能性です。最後のリスクは、SNSや投稿サイトなどを通じて主張を拡散させることにより、プロパガンダに利用される可能性です。技術者としては、個人情報・プライバシー情報・機密情報漏えいの可能性はないか、重要なデータの消滅・改ざんの恐れはないか、複数のデータが関連付けられて個人が特定される可能性はないか、個人の好みへの過干渉の可能性はないか、必要以上の情報を個人からセンシングしていないかなど、倫理的な面からの注意が必要となります。

AIに関する倫理を議論する際には、入力された特徴から判断結果に至る経路を学習し、回路を形成するディープラーニングなどの仕組みをある程度理解した上で、AIにできること、できないことを踏まえて考えることが重要です。AIの発展で起こりうるリスクを、図2にまとめました。

図2:AI、ロボット、自動運転と倫理問題

図2:AI、ロボット、自動運転と倫理問題

人間の労働場所の多くがAIに奪われる、人間が自ら思考したり行動することが少なくなる(思考や行動の省略)、こうしたAIによる意思決定支援が一般化すると、人間の判断に関する自主性が弱体化する可能性が考えられます。また、自動意思決定システムや自律ロボットでは、結果に対する責任の所在が不明確になること、AIが搭載されたロボットが自律的に行動する大量兵器となる可能性もゼロではありません。AIによる自動運転にも、想定されるリスクがあります。

続きは、保管用PDFに掲載中。ぜひ、下記よりダウンロードして、ご覧ください。

2. バイオテクノロジー・脳科学と倫理

保管用PDFに掲載中。ぜひ、下記よりダウンロードして、ご覧ください。

3. 新技術の将来への影響を推し量る重要性

保管用PDFに掲載中。ぜひ、下記よりダウンロードして、ご覧ください。

  • セミナー10月
  • 寄稿募集
  • 基礎知識一覧

ピックアップ記事

tags

  • 特集バナー0903_01
  • 特集バナー0903_02
  • 特集バナー0903_03
  • 特集バナー0903_04