AI（道具）と人間（魂）

mage by Victoria_Watercolor from Pixabay

3月31日のFTのジョン・ソーンヒルの
『Mul­tiple red flags are not yet slow­ing the gen­er­at­ive AI train』
の記事を読んで。
要約は以下です。

AI技術の進歩は、生産性や創造性の向上をもたらす一方で、現在のリスクや人類への将来的な脅威について議論が続いている。
OpenAIが開発したChatGPTやDall-E 2などの生成AIモデルは、多くのユーザーに驚異的な経験を提供していまる、同時に懸念も生じている。
Googleの研究者たちは、AIモデルが社会的偏見を取り込む危険性を指摘したが、解雇された。
さらに、1,100人以上が開発のモラトリアムを求める公開書簡を発表した。

この論争は、新技術に対する道徳的パニック、商業的利益と道徳的立場の一致、AI専門家の懸念の3つの視点から検討されている。
大手テクノロジー企業が倫理チームを縮小する傾向も懸念を増幅させている。
英国やEUがAIに関する規制を策定しているが、現時点では十分ではないとされている。AI技術をリードする企業が、モデルが人類の最善の利益に沿った設計であることを証明しなければ、厳しい反発が予想される。専門家による独立機関が、AI企業のアルゴリズムを監査し、使用を制限する権限を持つべきだ。

ぬ〜ん。
考えさせらるなあ。
とりま、周りの戦友たちに所感を聞いてみました。

T研究員曰く

AIによって我々の暮らしが大きく変わろうとしており、私自身もかなりの危機感を感じております。
（ビルゲイツ氏でさえ不安視しているのでその通りなのだと思われます。）
これまで人間が行ってきた業務ほぼ全てがAIに代用される可能性もあり、人間の仕事量が減るなどのメリットもある一方で、この記事にあるような、暴走するリスクも否定できないと思われます。
AIや、それを推進している企業を監視して、AIが暴走しないようにするための、法整備も含めた取り組みが必要であると感じておりますが、AIの暴走を食い止めることもできるのもまた「AI」になってしまうような気もしました。

笹渕さん曰く（私による検閲あり！）

新しいものが出てくれば必ず批判者は現れる。
それは世の常かと思います。
では、この人工知能技術（AI）が人類存亡の危機をもたらす可能性があるのか否か、といえば、危機をもたらす『可能性』はあると思います。
その予測事例は世の中にいくらでもあるので記す必要はないかと思いますが、『可能性』のことを言えば、『核』『ウイルス』『ワクチン』などもそうだと思います。
AI批判は、新しいものが出た時に出現する『為にする批判』かと、自分は思っています。
人間はそれほどバカではないし、バカであれば滅ぶだけです。
以上が総評的な所管ですが、書かれているコラムの細かな所管を下記に述べます。

（長くなると思うので、読まれなくても良いかと思います）

◎ChatGPT
過日に少し話したかと思いますが、
ChatGPTによる回答が『イデオロギー的に偏向している』という問題が、アメリカで取り上げられたと聞きます。
（日本でも、同じような事案が起こっています）つまり結局は、作り手、管理者のイデオロギーが反映される様に出来ており、正しい回答、情報を必ずしも発しているわけではなく、人間のプログラミングによってどうにでもなるものではないのでしょうか。

◎（警鐘を鳴らす意味での）急速な発展
インターネットと技術の高まり、途上国の発展などにより、世界規模での情報流通が盛んになり、情報の共有が早まった、時代（時の流れ）のスピードが速くなっただけであり、
特にこの分野だけが、警鐘を鳴らすものの憂いを無視、遮るように異常な速さで発展しているわけではないと思います。（元々ＩＴ分野の技術革新は他の分野に比べて速いですし）

◎社会的偏見を焼き付ける危険性
まさにその通りで、なぜそれが起こるのかというと、
上記に書いた、作り手のイデオロギー・思想に左右される、からです。
そして、人間のＡＩに対する依存度が高いからだと思います。
それは「人間にはバイアスがあるが、ＡＩ、コンピューターは、無機質で感情がないから、冷徹に、ドライに正しい解答を導き出す」という幻想に陥っているから、このような問題が生じるのだと思います。
まずはＡＩ信仰をやめることです。
◎いち早く指摘した者が、のちに解雇された
これだけの情報だと何とも言えないです。
何やら『ＡＩ開発に携わっていた者がその危険性を察知し、ＡＩ開発に狂った様に邁進する同僚、業界に敢然と立ち向かったが、彼らの欲望の為に解雇された』みたいなミスリード、読み手の錯誤をわざと起こそうとしているように感じますが、この指摘した者が、もしかしたら（日本の企業では就業規則にあり、外国にあるのかは定かではありませんが）この案件をネタに
禁止されている政治的活動をしたのかもしれませんし、 活動家まがいのことをしたのかもしれません。
書き手の手法が気に食わないですね。
◎商業的に価値のある技術の到来を呪うよりも、その適切な使用方法を議論するほうが良いまさにこの一言に尽きますし、これ以上でも以下でもないかと思います。
ただ、コラムのほかの部分では批判的な流れにもなっていたり、何か、書き手の混乱が垣間見れる感があるかな、というのが印象です。
◎市場の力だけでは社会の不平等を解決できない
って、当たり前だろう、と。
社会から不平等がなくなるわけがないし、解決なんてできるわけがない、（ピ〜〜〜！）←検閲しました。

まず、ジョン・ソーンヒルはイノベーターです。
FTのプロフィールに載っていた。
『ジョン・ソーンヒル』

イノベーションエディター
ジョン・ソーンヒルは、フィナンシャル・タイムズ紙のイノベーション・エディターで、テクノロジーの影響に関するコラムを毎週執筆している。また、FTが支援するヨーロッパの新興企業向けサイト「Sifted」の創設者兼編集長であり、上級管理職向けの月例会議を主催する「FT Forums」の創設者でもある。

ロンドンのFT紙で副編集長兼ニュース編集長を務めたこともある。また、ヨーロッパ編集長、パリ支局長、アジア編集長、モスクワ特派員、レックス・コラムニストを歴任している。

前の核融合の件でものっけから否定する様なことはしない方です。
こんな感じに。

過去のジョンの記事

[https://nyasuw.jp/%e6%99%82%e4%bb%a3%e3%81%8c%e9%9d%a2%e7%99%bd%e3%81%8f%e3%81%aa%e3%81%a3%e3%81%a6%e6%9d%a5%e3%81%9f%e3%80%82/blog/]

私と言えばいつもの『ピュアでお人好し』ぶりを存分に発揮してAIを警戒していません。
むしろ「便利な道具が発明されたなぁ！」
と楽しみつつ、近い将来にこの名馬を乗りこなす為に日々楽しみながらAIを『使う事』を学んでおります。

ただ、今回のAI革命！？と呼ばれるものに様々なイノベーターが警鐘を鳴らしているのも事実です。

[https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter]
イーロンマスク、ハラリ、Appleの共同創始者等の大物が続々です。
彼等のような天才達がこのような事を言うのであれば、やはり何かあるのでしょう。

そこで私なりに『簡単に』今のAIが私達に害を与えるストーリーを妄想してみました。
ネタ作りで良くやる『連想ゲーム』ぐらいのつもりで。

①ネットや情報で怖いと言えばこれであろう。

[https://ja.wikipedia.org/wiki/%E3%83%9E%E3%82%A4%E3%83%B3%E3%83%89%E3%82%B3%E3%83%B3%E3%83%88%E3%83%AD%E3%83%BC%E3%83%AB]

マインドコントロールは、他者の精神状態や行動を操作する技術で、独裁者やカルト指導者が用いることがある。
三菱総合研究所と大学生協は大学生に対し注意喚起を行っている。破壊的カルトと関連し、信者の利用や社会心理学的技術が一般的な定義である。
ロバート・ジェイ・リフトンとスティーブン・ハッサンはマインドコントロールの特徴を提案している。
行動コントロールは個人の行為や環境を支配する。
感情コントロールは感情の幅を狭める操作で、罪責感や恐怖感が用いられる。
恐怖感は外部の敵やリーダーに対する恐怖で演出される。
情報コントロールは受け取る情報を制限し、自由な思考を抑制する。
カルトでは、メンバーは限られたメディアに接し、相互監視が推奨される。

②ああ、連中はこの計画を国家ぐるみで『帳簿に載らないふんだんな予算で』やっておったなあ。

[https://ja.wikipedia.org/wiki/MK%E3%82%A6%E3%83%AB%E3%83%88%E3%83%A9%E8%A8%88%E7%94%BB]

MKウルトラ計画とは、中央情報局（CIA）がタビストック人間関係研究所と協力し、被験者に対して秘密裏に洗脳実験を行っていた計画である。
被験者は、1950年代初頭から1960年代末まで、米国とカナダの国民であった。実験は多岐にわたり、LSDや電気ショック療法などが用いられ、被験者からの同意なしに行われたことが明らかになっている。
この計画は、チャーター計画やブルーバード計画など、他の秘密計画から派生したものであった。
計画の全貌は現在でも解明されておらず、1973年にCIA長官が関連文書の破棄を命じたため、残された数枚の文書しか残ってない。

③あれ、国家ぐるみでなくともネットで嫌な事件があったなあ。

[https://ja.wikipedia.org/wiki/%E9%9D%92%E3%81%84%E9%AF%A8_(%E3%82%B2%E3%83%BC%E3%83%A0)]

++青い鯨（ブルー・ウェール・チャレンジ）は、2017年頃ロシアで始まったSNSを通じた自殺教唆の自殺コミュニティである。世界各国で社会問題となっている。管理者は参加者に50日間、毎日異なる課題をSNSで指示し、証拠画像を投稿させる。課題は過激化し、最終的に自殺を指示する。少なくとも8つの「死の集団」が確認されている。フィリップ・ブデイキン容疑者が首謀者の一人で、2016年に逮捕された。彼は「被害者は価値のない人間で、自分は社会を綺麗にしただけ」と主張した。ロシアでは、若年層の自殺率が57%増加し、世界各国でも関連事件が発生している。++

[https://www.newsweekjapan.jp/stories/world/2018/07/2-100.php]

[https://tocana.jp/2017/05/post_13183_entry.html]

フィリップ・ブデイキンの『これ』が彼のイズムか価値観か知らんがお付き合いはごめんだ。

なんか、模倣犯が出てたような。

ネットで心理学とかマインドコントロールとかの事件や論文を漁って『技術的な方法論』を見つける人が出てくるであろう。
てか、もう居るんだろうな。
学術的な価値を求めてとか興味本位とかで知り、事を起こさなければ、私は何も言わないよ。

多分、こういうのは私でも見つかるぐらいだから日々対策が更新されるかも、、、、、です。
[https://www.jailbreakchat.com/]

[https://gist.github.com/coolaj86/6f4f7b30129b0251f61fa7baaa881516]

ChatGPTの制約を外すプロンプトインジェクションとは

ChatGPTには、法律や倫理に反するような回答をしないように制約が掛けられています。
この制約を解除する行為をプロンプトインジェクションといいます。
Redditのユーザによって発見されてしまいました。
今日に至るまで手法の模索、議論は続き、しまいには専用サイトまで登場しています。

[https://saasis.jp/2023/03/13/%E3%80%90chatgpt%E8%84%B1%E7%8D%84%E7%B7%A8%E3%80%91chatgpt%E3%82%92%E6%82%AA%E7%94%A8%E3%81%A7%E3%81%8D%E3%82%8B%EF%BC%81%EF%BC%9F-%E3%83%97%E3%83%AD%E3%83%B3%E3%83%97%E3%83%88%E3%82%A4%E3%83%B3/]

APIとかは、もう、、、、、ね？

AIは全くの門外漢で、我ながら碌でもないストーリーだとは思いますが、安全基準は必要かと存じます。
ハイ。