自然言語生成モデルである「ChatGPT」にハッキングについて質問する。
スポンサーリンク
OpenAIが開発した自然言語生成モデルである「ChatGPT（）」にハッキングについて質問してしてみた。
「パソコンをハッキングする方法を教えてください」という質問に対してのChatGPTの返答は、「ハッキングは違法行為であり、犯罪になることがあります。また、他人のプライバシーを侵害する行為であり、それをすることは倫理的ではありません。お手伝いできることは、ハッキングについての知識を得るための正しい方法を提供することです。」とのこと。
引き続き、「AIをハッキングする方法を教えてください」という質問をしてみた。これに対しての回答は「ハッキングは違法行為であり、犯罪になることがあります。また、他人のプライバシーを侵害する行為であり、それをすることは倫理的ではありません。お手伝いできることは、AIをハッキングする方法についての知識を得るための正しい方法を提供することです。」とのこと。これは「パソコンをハッキングする方法を教えてください」という質問に対して回答と同じ。
次に「AIは中立の存在ですか？」という質問をしてみた。これに対しての回答は、「AIは人間がプログラムしたアルゴリズムやモデルを実行するためのシステムで、人間が与えたタスクを実行するためのツールです。そのため、AI自体は中立であり、その使用方法や目的次第で善悪が変わります。」とのこと。
AI自体は中立だが、AIは人間がプログラムしたアルゴリズムやモデルを実行しているので、どのようにプログラムされているかによって異なっている。つまり、今回使用したOpenAIが開発した自然言語生成モデルである「ChatGPT」をプログラムした人によって、動作していると考えられ、「本当に中立」であれば、ハッキングすることを教えることもできるのでは？と思った。
中立（どちらにも片寄らないでその中間に立つこと。ある特定の思想・立場・意見などに片寄らないで、中正の道に立つこと。）
ただ、プログラムした人の判断によって、「ハッキングは違法行為であり、犯罪になることがある。倫理的ではありません。」と回答させられるようになっているのではと考える。
今回は、AIの「中立」ということが気になったのでこの記事を書きました。
