ChatGPTに社内の極秘情報を共有する場合は情報は保護されるのか。

ChatGPTに社内の極秘情報を共有する場合は情報は保護されるのかについて書きます。

なぜこれについて書こうかと考えたのか。それは最近はほぼ毎日のようにChatGPTに関連した情報をニュースサイトなどで収集している。

www.gizmodo.jp

その収集した中で上記の記事が目についた。この記事の中では、Amazonの弁護士チームが、Amazon社員に向けて「開発中のコード含むAmazonの極秘情報」をChatGPTと共有しないように通達したということが書かれており、ここに書かれていることからChatGPTに社内の極秘情報を共有する場合は情報は保護されるのかについて疑問がわいた。なので、2023年1月30日でアップグレード,事実関係や数学的な能力を向上されたChatGPT(https://help.openai.com/en/articles/6825453-chatgpt-release-notes)に直接「ChatGPTに社内の極秘情報を共有する場合は、情報は保護されますか?」という質問をしてみた。

 

質問後、得られた回答が上記となる。「OpenAIは社内の極秘情報を保護されず、秘密情報を含むような情報は共有しない」という回答を得られた。「ChatGPTが本当に信じられるのか?」という問題があるが、これに関しては私は信じても良いと考えてこれを公開する。

次に「ChatGPTで共有されたくないことはあるが、どうしてもChatGPTを用いて問題解決したい場合はどうすれば良いのか?」という疑問もわいてきたので、これもChatGPTに質問してみた。

質問後、得られた回答が上記となる。私の個人的な考えでは「代替テキストを使用する」と、「特定の情報を含まないトレーニングデータを使用し、ChatGPTをカスタマイズする」というのが良いのではないかと考える。「情報を暗号化してからChatGPTに入力することで、情報の漏洩を防ぐ」ということも書かれていたが、「情報を暗号化してからChatGPTに入力した場合、その情報が他の者によって引き出される可能性があるのでは?」と考え、これについてChatGPTに質問してみる。

質問後、得られた回答が上記となる。「情報の漏洩を防ぐことができますが、100%保証はできません」とあるので、私もこれについては同意する。

ここまで、社内の極秘情報を共有する場合は情報は保護されるのかについて、ChatGPTと対話しながら考えてみたが、共有しない方が良い。

 

■追記

「ChatGPTのようなAlと機密情報を共有することへの懸念を説明する(describe concerns about sharing sensitive information with Al like ChatGPT)。」ということを英語と日本語の両方で、ChatGPTに質問してみた。

得られた回答が上記となる。回答が若干異なることが、新しい発見だったことも含め共有します。

ChatGPTのようなAIと機密情報を共有すると、以下のようなことが起こります。

1.データ漏洩、機密情報への不正アクセス
2.情報の流通や利用をコントロールできなくなる。
3.情報が悪用された場合、個人または組織に損害を与える可能性がある。
4.プライバシーとセキュリティをめぐる法的・倫理的問題

AIシステムと機密情報を共有することのリスクとメリットを慎重に評価し、それを保護するために適切なセキュリティ対策を実施することが重要です。

なお、英語の回答を日本語に翻訳すると、上記となる。

ルフィ強盗事件からみる現金所持の危険性とキャッシュレス化

今回は、全国で20件以上発生し、30人程度の逮捕者を出し、指示を出していた者が「ルフィ」を名乗っている犯罪集団による連続強盗事件について書いてみる。

www3.nhk.or.jp

この事件では、住宅から「現金およそ3500万円」などが奪われているが、自宅に3500万円という大金を置いている家庭が日本で存在していることに驚いた。

www.fnn.jp

logmi.jp

驚いたが、これについて調べてみると、高齢者を中心に自宅で現金を保管する「タンス預金」を増やす傾向が強い。またコロナ禍でタンス預金が増えているようだ。タンス預金は、いつでも好きな時に使えたりなどのメリットがあるのだが、強盗などに入られた時のために「現金は銀行などに預けておき、大金は家に置かないこと」を私は推奨する。銀行などに預けておくことで、キャッシュカードなどを奪われても暗証番号を入力し現金を引き出さなければいけないので、犯人を逮捕されるまでの時間稼ぎができる。ただ、強盗に入られた場合に、もし自分が家に居てお金がなかったら、慌ててパニックになり強盗犯が逆上する危険性もある。そうなってくると、僅かなお金は家に置いておいて、それを渡してその場を凌ぐしかないと考える。もしくは護身用品(スタンガン、催涙スプレーなど)を家に必ず常備しておくか、護身術を習っておくかだが、いざという時に実践できるかはわからない。

あと、もし強盗に入られた場合にクレジットカードを盗られた場合は、暗証番号で時間稼ぎをすることができるが、日本で急速に普及している「タッチ決済」機能付きのクレジットカードの場合はどうなるのか気になった。これはカードを端末にかざすだけで決済できるので、強盗犯が端末のあるお店で勝手に利用される恐れもある。そうなった時は、クレジットカード会社の盗難・紛失窓口にすぐに連絡し、利用停止の手続きを行う。またクレジットカード会社の「補償」についても事前に確認しておくことが大切である。

ChatGPTによってゴミのような記事が無限生成されることでネット空間が汚染される

ChatGPTによってゴミのような記事が無限生成されることでネット空間が汚染されることについて書きます。

OpenAIが2022年11月に公開したチャットボット「ChatGPT」は、テキストを生成するための強力なツールでありこれを用いて、ゴミのような低品質や誤ったコンテンツを生成する人たちもいる。これについてChatGPTに対して「ChatGPTによってゴミのような記事が無限生成されることでネット空間が汚染されることについてどう考えますか?」という質問をしてみた。

質問した後に得られた回答が上記となる。ゴミのような記事が無限生成されることでネット空間が汚染される負の影響を軽減するためには、ChatGPTのような言語モデルを使用するユーザーや開発者は、その使用による「潜在的な影響」を検討し、負の影響を軽減するためのステップを講じることが重要だとしているが、言語モデルを責任ある方法で使えない人たちもいるので、このような場合はどうすれば良いのか。これも、ChatGPTに「言語モデルを責任ある方法で使えない人たちはどのように対処すればいいと考えますか?」と質問してみた。

質問後、得られた回答が上記になる。まずChatGPTの使用者に対して適切なトレーニング(生成するテキストに対しての社会的責任についてを学ぶことができるもの)を提供するとあるが、このトレーニングプログラムを拒む者もいるということも理解しておきたい。次に技術開発者に対して責任を負わせるとあるが、責任を逃れようとする者もいるので、このような場合はどうすれば良いのか気になったので、追加でこれに関して質問した。

質問後、得られた回答が上記となる。

次に使用者に対して監視を行うこと。監視することは確かに大事だ。言語モデルが使用されるプラットフォームやサービスは、使用者が責任ある方法で使用しているかどうかを監視する仕組みを設けることは良い方法ではないかと思った。これを読んでパッと頭の中に浮かんだのが、情報の真偽を検証しネットの言論空間の健全性を維持することを目的に設立された「日本ファクトチェックセンター」のようなセンターを設けること。しかし、そもそもファクトチェックの場合は、お金にならないので、運営を継続するのが難しいということもあるし、チェックセンターに携わる人は「どのような人を選ぶのか」も大事になってくる。実際に日本ファクトチェックセンターは、朝日新聞出身者が多いといったことなどで炎上したので、携わる人に偏りがあると、真偽を検証しチェックすることは難しくなる可能性はある。そうなってくると、私たち一人一人が監視の目となり、常に見張っていき声をあげるということが大事となってくると考える。そして、ChatGPTの回答の最後に挙げられた「法律や規制を整備する」ということ。ゴミのような記事が無限生成されることでネット空間が汚染されることを強く取り締まるのであれば、これも必要になってくる。ただ、この場合も「どこまでの範囲」を法律や規制で取り締まるかが課題になってくる。また政府や業界団体が法律や規制を正しく整備できるのかというところも課題だと考える。権力やお金で力で間違った整備になってしまう可能性もゼロではないと考える。

最後に、ChatGPTから得られた回答の中に「技術開発者に対して責任を負わせる」とあったのだが、技術開発者に責任を負わせることでどのような効果があるのか気になったので、ChatGPTにさらに質問してみた。

質問後、得られた回答が上記になる。言語モデルの技術開発に携わっている方は参考にしてもらいたい。

AIが書いた文章を検出できるツール

AIが書いた文章を検出できるツールを紹介し共有する。

■AIが書いた文章を検出できるツール

platform.openai.com

OpenAIがAIが生成したテキストと人間が書いたテキストを判別するツール「AI Text Classifier(https://platform.openai.com/ai-text-classifier)」を公開。(2023年2月1日追記)。

writer.com

・AI Content Detector(AIコンテンツディテクター

 

gltr.io

「Giant Language model Test Room」。入力テキスト上の言語モデルの視覚的な足跡をフォレンジック検査し、テキストが本物か偽物かを検出するが、最近のモデル(ChatGPT)のテキストを検出するのに参考にならない可能性がある。「Giant Language model Test Room」の更新情報はmastadonで「hen@vis.social」をフォローするか、またはTwitterで「@hen_str」をフォローする。アカウントが生存する限り。

 

openai-openai-detector.hf.space

これはあくまで「GPT-2」の出力検出器であり、最新のモデルには対応していない可能性がある。

contentatscale.ai

AI コンテンツ生成会社によって作成されたAI コンテンツ検出(AI Content Detection)。

■追記(1月31日)

gptzero.me

AIがエッセイを書いたかどうかを検出する。大衆向けには準備ができていない。

■ChatGPT テキストを検出できる可能性がある剽窃チェッカー

www.turnitin.com

www.plagscan.com

copyleaks.com

 

※これらのツールは完全で確実なものではない。言語モデルによって生成されたテキストの一部が検出を逃れる可能性が常にあるということを念頭に置く必要がある。

 

■追記(2023年1月30日)

 

gigazine.net

ChatGPTのようなチャットボットが生成するテキストを人間が書いたものか見分ける、検出する「DetectGPT」を開発中である。

AIは誤情報などのコンテンツを生成する可能性があり、それを受け取った人間の判断が歪められた場合の対策

www.technologyreview.jp

ネット上で上記の記事が公開されていた。この記事内には、今後のインターネットにとって重要なことが書かれていると私は考えている。

今後、AIシステムが大量の誤情報などを生成した場合に、私、人間の判断が歪められてしまう可能性はじゅうぶんにあるが、そうなった時に対策はあるのか。このことをAIに質問するのはどうかとは思うが、参考にはなると思い、OpenAIが公開したしたチャットボット「ChatGPT」に、「AIは誤情報などのコンテンツを生成する可能性があり、それを受け取った人間の判断が歪められた場合の対策はありますか?」という質問してみた。

質問の回答が上記になる。人間が信頼できる情報源から情報を収集し、独自に判断することが重要とあるが、これでパッと頭の中に浮かんだのが、シンプルな収録、そして編集しない声で、発信者の「素」、本人性や想いが届く音声プラットフォーム「Voicy」である。ただ、これも今後AIの進歩により侵食される可能性はあるが、現状として情報源としては有益ではないかと私は考える、特にAIには作れない人間の「素」といった部分。また「生成されたコンテンツがどのように生成されたのか、どのようなデータセットを使用したのかなどを考慮する」とあるが、これは人間が「AI」という存在についてもっと理解を深める必要があると考える。そうなっていくと、人間はさらに高度にならなければいけないと感じる。

最後に「異なる情報源からの情報を比較する」とあるが、異なる情報源と複数持っておいた方が、比較する際には大事だと考える。また、ほとんどの人が陥ってしまうの認知バイアスの理解もしておく必要があるので、下記に撃退法などのリンクを記載しておく。

studyhacker.net

 

atlassian-teambook.jp

 

電子(QR,スマホ)決済のIDやパスワードを狙うフィッシング詐欺の対策方法

電子決済のIDやパスワードを狙うフィッシング詐欺の対策方法について書きます。

OpenAIが開発したGPT-3という大規模な言語モデルを組み込んだチャットボットである「ChatGPT」に「フィッシング詐欺での偽サイトを見分ける方法はありますか?」という質問をしてみた。質問した結果得られた回答が参考になると思うので、共有します。

 

まず、1番のURLを確認することに対して追記すると、不審なリンクをクリックする前に、事前に正規のサイトのURLを検索エンジンなどを用いて調べておく必要がある。

2番の認証局からの証明書を確認する。確かにこれは有効ではないかと考えられる。偽サイトでは、SSL証明書が取得できていないことが多いので、自分が確認したサイトのアドレスが、アドレスバーの先頭に「https」が表示されているか、ロック(鍵)マークが表示されているかを確認する。また、アドレスバーに「保護されていない通信」と表示されているかも確認する。ただし、この場合は必ずしもフィッシング詐欺のサイトであるとは限らないので注意。

3番のブラウザの拡張機能を使う。ブラウザによっては、フィッシング詐欺を検出するための拡張機能が使えるが、スマートフォンの場合は、そもそも拡張機能をインストールすることは不可能の場合もある。ただし、iPhoneiPadAndroidスマートフォンで使えるサードパーティー製の代替ブラウザをインストールすることで、一部の拡張機能を使うことができるので、フィッシング詐欺が検出できる機能が使えるか確認した方がいい。

4番のパスワードを定期的に変更する。そもそもパスワードを定期的に変更するのはめんどくさいし、覚えられないという人もいる。

xtech.nikkei.com

そもそも、Webアプリケーションの認証からパスワードを無くす動きが出てきているので、定期的にかえる必要がなくなるかもしれない。「パスキー」の方法では、認証情報がネットワーク上を流れないので、パスワード方式と比べて安全性が高い。

5番目の不審なリンクやサイトはアクセスしない。基本中の基本であるが、未だにクリック、アクセスしてしまう人がいる。

news.yahoo.co.jp

なので、上記のような記事がYahoo!ニュースに掲載されてしまう。そこで、インターネット上でのサイトの信頼性や安全性を評価するウェブセキュリティサービスをいくつか紹介しておきます。

 

safebrowsing.google.com

 

safeweb.norton.com

 

www.mcafee.com

これらのサービスを用いることで、フィッシング詐欺マルウェアが含まれるサイトを検出して、ブロックする、またはアクセスするリスクを減らすことができます。

www.sourcenext.com

スマートフォン対応のウェブセキュリティサービスは上記のようなものが挙げられます。

LINEは信用できるメッセージアプリなのか。

LINEは信用できるメッセージアプリなのかについて書いていきます。

www.moba-ken.jp

日本ではスマートフォン・携帯電話所有者のうちLINE利用率が81.6%と高いものとなっているが、そもそも信用できるメッセージアプリなのかという疑問が私個人には湧いてくる。

www.sankei.com

ja.wikipedia.org

LINEの個人情報保護問題は度々取り上げられて、実際に情報漏洩が発生している。発生後、対策が講じられているだろうが、未来はそもそも不確実でまた発生しないという保証はない。

また、2022年11月にOpenAIによって開始されたチャットボットである「ChatGPT」に「アプリからスマートフォンの内部情報を入手することは可能ですか?」という質問をしてみると、権限を与えてしまった場合などには可能ですと回答している。また「アプリが不正にスマートフォンの内部情報を収集することもある」と回答している。これはLINEに限らず言えることなので、自分が利用するアプリの利用規約などはちゃんと確認し、インストールした方が良いと言える。ただ、ここで問題になってくるのが、「アプリを利用するユーザーがちゃんと利用規約などを読んで理解した上で同意しインストールしているか」という問題である。ほとんどのアプリの利用規約は長文で全ての文を読んでいる人は少なく、利用規約などを読まずに同意し、インストールしていることがほとんどである。

uxmilk.jp

また、書かれている内容を理解するには、大学レベルの読解力を要する。ある程度の読解力が必要となるため、それがない人は知らず知らずに、権限を与えてしまっていることもあるかもしれない、また若い人であれば周囲の雰囲気に流されて利用規約などを読まずにインストールしたということもあるので、注意が必要である。(余談ではあるが、世の中には知らず知らずに、価値のあるもの(個人情報や権限など)を企業に渡してしまっているケースがあるので、このことを理解する、また捉えるには、若いうちから勉強し、その後も学びは一生続くものだということもいえる。)

 

line.me

LINEの「パーソナルデータの安全管理(個人に関する情報)」を確認すると、取得したパーソナルデータの管理について技術的・組織的に厳重なセキュリティ対策を講じるとはなっているが、その続きには、「いかなる電子送信やデータストレージの方法も完璧ではなく、伝送経路(ある地点から別の地点へ送信するための配線)および当社のシステム上に保管されている間の侵入に対する完全な安全性を保証することはできません。」とも書かれているので、注意が必要である。

さらに、チャットボットである「ChatGPT」に「個人のパーソナルデータが盗まれる危険性はありますか?」という質問もしてみると、個人のパーソナルデータが盗まれる危険性はあると回答している。これはLINEに限ったことではない。

では、LINEにかわる安全な信頼できるメッセージアプリはあるのかという問題になってくる。

これもチャットボットである「ChatGPT」に「安全な信頼できるメッセージアプリはありますか?」と質問してみると、上記の回答がえられた。

この回答の中で最初に挙げられた「Signal」というメッセージアプリに着目する。このSignalは、独立した非営利団体で、開発は助成金や寄付によってサポートされ、主要なテクノロジー企業に縛られず、買収されることもないと現在のところはなっており(https://signal.org/)、テクノロジー企業に縛られない、買収されないということは、企業に個人の情報を収集される危険性は低いと考えられる。また、アメリカ国家安全保障局 (NSA) および中央情報局 (CIA) の元局員である Edward Snowden氏(https://ja.wikipedia.org/wiki/%E3%82%A8%E3%83%89%E3%83%AF%E3%83%BC%E3%83%89%E3%83%BB%E3%82%B9%E3%83%8E%E3%83%BC%E3%83%87%E3%83%B3)が、「SignalはChatGPTの回答にも書かれているWhatsAppよりも安全である」と言っている(https://www.thenews.com.pk/latest/776144-everybody-can-get-back-to-uninstalling-whatsapp-now-edward-snowden-after-signal-recovers)。さらに、Signalは、エンドツーエンドの暗号化を使用し、メッセージは送信前に保護されて、送信先のデバイスに到着したときにのみメッセージが復号化され相手が読めるので、配線に送信中は、保護されており、中身を見ることはできないようになっている(https://www.trustedreviews.com/news/is-signal-safe-4129801)。他にも、Signalは先程にも書いたように、営利目的ではない非営利団体が運営しており、オープン ソース プラットフォームであるため、セキュリティ研究者が脆弱性をチェックできるようになっている。

このように「Signal」というメッセージアプリはかなり安全性の高いアプリとなっているので、LINEよりもはるかに信用できるアプリではないかと考えている。

なので、筆者は早速、LINEのアカウントを削除し、Signalのアプリをインストールし使ってみることにした。なお、インストールする際には、電話番号が必要である。これは不便な点だ。インストールし、使うことにしたのはいいが、LINEを削除した後で問題が出てきた。それは、

・日本でのLINEの普及率が高く、Signalの普及率が低いこと。

・LINEの普及率が高く、その普及率を利用し、各企業や個人事業主が「友達追加」などのマーケティングに活用しているが、その恩恵を受けれない(割引クーポンの利用など)。

・日本でのLINEの普及率が高く、Signalの普及率が低いので、相手にLINE以外に新しいメッセージアプリをインストールしてもらわないといけないので、そのためになぜアプリをインストールしなければいけないのかを理解させないといけない。

・相手側には、Signalをインストールしないという意志がある場合もあるし、何のアプリをインストールするかは、個人の自由で、こちらは強制できない。

などである。最後にLINEの普及率などで気になったことと、言いたいことがある。まずは、気になったことは、そもそもSignalというのは、安全性が高く信用ができると判断できるメッセージアプリなのに、なぜ日本で普及しないのかというのが気になった。人には本来安全欲求というものが備わっているので、安心で安全なものであれば自然と広まりそうな気もするが、そこはなかなか難しいのだろうか。今後、Signalが日本でも普及することを期待する。

次に言いたいことは、LINEというのは、信用できるメッセージアプリかといえば決してそうではないが、普及率に関して言えば、日本でこれだけ高い普及率になったことは評価できるということと、LINEの利用規約をしっかりと読み理解した上でLINEを利用するのは個人の自由であるということだ。私は今回LINEのアカウント削除し、Signalをインストールしたが、これも個人の自由なので、読んだあなたがどうするのかは、「自分が判断し決めることである」。Signalのインストールの強制はしない。