2023.11.22-毎日新聞(KYODO)-https://mainichi.jp/articles/20231122/k00/00m/020/195000c
アルトマン氏、オープンAIのCEO復帰で合意 混乱収束へ
対話型人工知能（AI）「チャットGPT」を開発した米新興企業オープンAIは米西部時間21日、最高経営責任者（CEO）を解任されたサム・アルトマン氏の復帰で基本合意に達したと発表した。サマーズ元米財務長官が取締役に加わるなど、取締役会も刷新する。
対話型AIの開発はグーグルやメタ（旧フェイスブック）といった米IT大手が進めており、競争は激化。この分野で先駆的な存在のオープンAI社内ではアルトマン氏解任を機に混乱が続き、開発の進展に影響が出かねない状況だったが、復帰により収束に向かう。
アルトマン氏は「復帰を心待ちにしている」とX（旧ツイッター）に投稿した。 アルトマン氏は17日に取締役会からコミュニケーション不全を理由に解任された。20日にオープンAIと提携するマイクロソフト（MS）に入ることが発表された。しかし、オープンAIの従業員の約9割に当たる700人超が、アルトマン氏が復帰しなければ退社すると反発し、要求が通らなければMSに移籍することも示唆した。（共同）
2023.11.21-産経新聞(KYODO)-https://www.sankei.com/article/20231121-MBO7YJVTHNLWRIG74MEDPW5PHE/
オープンＡＩのアルトマン氏解任で従業員の大半が退社表明
米紙ウォールストリート・ジャーナル電子版は２０日、対話型人工知能（ＡＩ）「チャットＧＰＴ」を開発した米新興企業オープンＡＩの従業員約７７０人の内の５００人超が、最高経営責任者（ＣＥＯ）を解任されたサム・アルトマン氏が復帰しなければ退社する意向を示したと報じた。解任を決めた取締役会メンバーの辞任も求めた。
アルトマン氏は１７日に解任され、２０日にオープンＡＩと提携するマイクロソフト（ＭＳ）が招いてＡＩ研究チームを率いると発表した。報道によると、オープンＡＩの従業員らは書面で「ＭＳは参加を選択した全従業員の受け入れを保証した」と移籍を示唆。アルトマン氏の解任を受けてオープンＡＩ会長を退任したグレッグ・ブロックマン氏の復帰も求めている。（ニューヨーク 共同）
2023.11.18-毎日新聞-https://mainichi.jp/articles/20231118/k00/00m/030/025000c
ChatGPT手がける「Open AI」 CEOが退任へ 事実上の解任か
【サンフランシスコ大久保渉】
対話型人工知能（AI）「チャットGPT」を手掛ける米新興企業オープンAIの取締役会は17日、サム・アルトマン最高経営責任者（CEO）が退任すると発表した。取締役会は理由について「オープンAIを率いる能力があるとの確信を持てなくなった」とコメントしており、事実上の解任とみられる。
取締役会は、アルトマン氏の退任について「熟慮に基づく検討プロセスを経たものだ。取締役会とのコミュニケーションにおいて常に率直さを欠いており、取締役会の責任遂行を妨げているとの結論に達した」とコメントした。
後任には暫定的にエンジニアのミラ・ムラティ最高技術責任者（CTO）を充てる。取締役会は「正式なCEOを探すまでの間、円滑な移行が進むと期待している」とコメントした。
アルトマン氏は2015年、実業家のイーロン・マスク氏らと共同で、非営利組織としてオープンAIを設立。22年11月に発表したチャットGPTは、わずか1カ月で利用者が1億人を突破するなど爆発的な人気を集め、日本でも話題となった。【サンフランシスコ大久保渉】
2023.08.10-産経新聞-https://www.sankei.com/article/20230810-XSNXELXDYFIR5J7BRZJ3J3RJUU/
人間、それともチャットＧＰＴ？ 「文章の指紋」で判別可能に 犯罪捜査の手法活用
生成人工知能（ＡＩ）「チャットＧＰＴ」が作成した日本語の文章と人間が書いた文章は、犯罪捜査にも使われる統計的手法を使うと、正確に見分けられることが、目白大の財津亘（わたる）准教授（犯罪心理学）の研究で分かった。１０日、米科学誌「プロスワン」オンライン版で発表した。
チャットＧＰＴを巡っては、日本語でも自然な文章を作成できることから、学術論文やインターネット上でのなりすましなどに不正利用される懸念が高まっていた。英語での判別方法に関する論文はあるが、日本語では初めて。
文章を品詞に分解して助詞の使い方や読点の打ち方といった特徴を統計的に解析する「計量文体学」の知見を活用。心理学に関する日本語の論文７２本について、チャットＧＰＴに、「同じタイトルと分量で論文を書いてください」と依頼し、比較した。
その結果、隣り合う品詞の組み合わせ▽助詞の使い方▽読点（、）の打ち方▽「また」「この」といった単独で意味を持たない単語の割合－の４つの尺度で分析すると、チャットＧＰＴと人間の文章には統計的に明確な違いがあることが浮き彫りとなった。
こうした違いをＡＩに学習させ、読点の打ち方に着目して論文を判別させると９３・５％、４つの尺度すべてを総合して判別させると１００％見分けることができた。
例えばチャットＧＰＴの文章では「〇〇が、～が…」といった並びが目立つほか、助詞「は」のあとに読点が打たれやすいこと、「本論文は」など「本」といった接頭語が使われやすいことが分かったという。
財津氏は富山県警科学捜査研究所の元主任研究官で、脅迫や誹謗中傷などの文章を書いた人物を特定する鑑定業務に従事してきた経歴を持つ。「チャットＧＰＴが作成した文章は自然だが、人間が読んでも一見気づかないような『文章の指紋』をあぶりだすことで、現段階ではほぼ正確に、人間の手によるものか否かを見分けられる」と話した。
2023.07.13-REUTERS(KYODO)-https://jp.reuters.com/article/idJP2023071301001583
中国、８月から生成ＡＩ規制
【北京共同】中国政府は１３日、生成人工知能（ＡＩ）を規制する管理規則を８月１５日から施行すると発表した。管理規則は生成ＡＩの提供者や利用者に「国家政権転覆を扇動し、社会主義を打倒し、国家安全に危害を加える内容を生成してはならない」と明記。文章や画像の自由な生成で共産党や政府への批判が広がるのを警戒する習近平指導部は生成ＡＩでも言論統制に乗り出した。
生成ＡＩの管理は倫理面などから各国で議論されている。中国の規制は共産党一党支配の維持が大きな狙い。中国は反体制的な利用を禁じながらＡＩを産業として育成し、軍事面でも活用する方針だが、規制が技術革新を妨げるとの懸念も指摘される。
海外の生成ＡＩサービスが管理規則に反する場合は「国家インターネット部門が関係機関に必要な措置を取るよう通知しなければならない」と規定しており、欧米の生成ＡＩが中国から締め出される可能性がある。
管理規則は全２４条で、国家インターネット情報弁公室や公安省など政府の７部門が管理を強化する。
【共同通信】
2023.06.02-JIJI COM-https://www.jiji.com/jc/article?k=2023060200571&g=pol
政府、オープンＡＩに行政指導 病歴など個人情報侵害の恐れ
政府の個人情報保護委員会は２日、対話型人工知能（ＡＩ）「チャットＧＰＴ」を開発した米新興企業オープンＡＩに対し行政指導したと発表した。個人の病歴などのプライバシーを侵害する恐れがあるとして、個人情報保護法に基づき１日付で注意喚起した。
現時点で具体的な被害情報や同法違反は確認されていないという。チャットＧＰＴに代表される生成ＡＩを巡り、同委が行政指導するのは初めてとみられる。オープンＡＩ側が十分な対応を取らない場合、立ち入り検査や罰金処分などを受ける可能性がある。
同法は個人情報のうち、人種、信条、社会的身分、病歴、犯罪歴などを「要配慮個人情報」と規定し、取得するには本人の事前同意を原則必要としている。
同委はオープンＡＩが、利用者本人の事前同意がないまま要配慮個人情報を収集しないよう求めた。その上でＡＩの機械学習に当たり、収集する情報に要配慮個人情報が含まれないように取り組み、それでも含まれていた場合は即時に削除したり、個人が識別できない措置をしたりするよう指導した。
個人情報の利用目的に関する日本語での注意事項がないことも問題視。日本語での通知を求めた。
2023.04.29-静岡新聞-https://www.at-s.com/news/article/national/1232787.html
チャットＧＰＴ、イタリアで再開 禁止解除の条件満たす
【ローマ共同】対話型人工知能（ＡＩ）「チャットＧＰＴ」を一時的に使用禁止にしたイタリアのデータ保護当局は２８日、同国内での使用禁止を解除したと発表した。運営する米新興企業オープンＡＩに個人情報保護などに関する措置を講じるよう求めていたのに対し、再開に向けた条件を満たしたためとしている。
イタリア当局は、オープンＡＩ側がＡＩの機械学習による個人情報の収集や使用方法についてウェブサイト上で明示し、利用者の年齢確認を厳格にする仕組みを設けるなどの対策を講じたと評価した。
イタリア当局は３月末、膨大な個人情報を違法に収集した疑いがあるなどとしてチャットＧＰＴを一時的に使用禁止にすると発表。４月末までに具体的な対策を講じるようにオープンＡＩ側に求めていた。
チャットＧＰＴは入力した質問に自然な文章で回答するのが特色で、世界で利用者が急拡大してきた。一方、大量のデータをＡＩが学習するため、個人データの不適切な収集や著作権侵害などへの警戒感が欧米で急速に強まっている。
2023.04.29-Yahoo!Japanﾆｭｰｽ（産経新聞）-https://news.yahoo.co.jp/articles/696b9a125011f8c04363f7d41b07d2ca99f6089e
Ｇ７、ＡＩ利活用の５原則で合意 中露念頭に「民主主義」「人権」
先進７カ国（Ｇ７）デジタル・技術相会合が２９日、群馬県高崎市で開幕した。対話型人工知能（ＡＩ）の「チャットＧＰＴ」に代表される「生成ＡＩ」を含む新興技術を利活用する際の規律として「民主主義」や「人権尊重」などの５原則に合意。ロシアや中国など権威主義国に対し、Ｇ７としてのＡＩに関する規律の在り方を示した。３０日に共同声明をまとめ、５月のＧ７首脳会議（広島サミット）の議論に反映させる。
文章や画像を自動的に作る生成ＡＩを巡っては、個人情報流出や著作権侵害への警戒感から規制を強める欧米と、開発や利用に積極的な日本で温度差がある。 会合では新興技術のイノベーション（革新）促進とリスク管理のバランスの取り方を議論。経済成長や気候変動に対応できる有用な技術との認識と併せ、「技術革新を妨げない機動的で柔軟な規律が必要」（西村康稔経済産業相）との考え方で一致し、５原則には「適正手続き」「法の支配」「イノベーションの機会の活用」も盛り込んだ。 松本剛明総務相は「適切なルール作りが必要という認識を共有できた」と報道陣に説明。急速に進化するＡＩなどに関して議論を継続する重要性を強調した。 日本が４年前に提唱した「信頼性のある自由なデータ流通（ＤＦＦＴ）」の具体化も協議。国をまたぐデータ流通の円滑化を経済成長につなげる構想で、河野太郎デジタル相は「ＡＩ（の学習）に信頼性のあるデータが大事というのは各国の共通認識だ」と述べ、生成ＡＩの進化に伴ってＤＦＦＴも一層重視されるべきとの考えを強調した。 議長国の日本から３閣僚が出席。ウクライナや２０カ国・地域（Ｇ２０）議長国のインド、東南アジア諸国連合（ＡＳＥＡＮ）議長国のインドネシアも招かれた。
2023.04.26-Yahoo!Japanﾆｭｰｽ（TBS NEWS DIG.)-https://news.yahoo.co.jp/articles/f33d76e7d25401c60629576067e5ab54ca8953a1
「チャットGPT」に対話履歴残さない新機能、個人情報保護への懸念に対応か
対話型AI「チャットGPT」を開発したアメリカの「オープンAI」は、利用者が対話の履歴を保存しないよう設定し、AIの学習に利用されないようにできる新機能を導入したと発表しました。
「オープンAI」の発表によりますと、「チャットGPT」には25日から、利用者がAIとの対話の履歴をシステム上に残さないよう設定できる新機能が導入され、保存しないことを選択すると入力したデータがAIの学習や改善のために利用されなくなります。
画面上でも過去の対話が表示されなくなるということです。 ただ、保存しないことを選択しても履歴は30日間保存され、不正行為を監視するためだけに利用されるとしています。
保存するか、しないかは、設定画面からいつでも変更できるということです。 「チャットGPT」をめぐっては、膨大な利用者データを収集、利用することから、個人情報保護への懸念が高まっていて、イタリアの当局は、情報収集の方法などが個人情報保護に関する法律に違反している疑いがあるとし、一時的に使用を禁止しました。
今回の新機能はこうした懸念に対応する狙いがあるとみられます。
TBSテレビ
2023.04.21-産経新聞-https://www.sankei.com/article/20230421-HGULHEJQ7FPTLJOT4EG3ZC7B5U/
チャットＧＰＴ「リスク踏まえる必要」 斉藤国交相
斉藤鉄夫国土交通相は２１日の閣議後記者会見で、同省における対話型人工知能（ＡＩ）「チャットＧＰＴ」の活用について「より多くの情報を効率的に利用できるメリットはあるが、機密情報の取り扱いのリスクを十分踏まえる必要がある」と述べ、現時点では具体的な検討を行っていないことを明かした。今後に向けてはデジタル庁などの活用状況を踏まえ、利用可否を判断する考えを示した。
自身も技術者出身である斉藤氏は「万能な技術はなく、必ず正の側面と負の側面、日の当たる部分と影の部分がある。そこを理解した上で使わないとかえって弊害が大きいという例を私も技術者としてみてきた」と指摘。一方で「あまり臆病になると前に進まないということもあるし、大変難しい問題だと思っている」とも語った。
2023.04.12-産経新聞（KYODO)-https://www.sankei.com/article/20230412-6ID7O2LSHVMNZBRYRHVENQQFPY/
「チャットＧＰＴ」欠陥発見に報奨金 開発元
米新興企業のオープンＡＩは１１日、対話型ソフト「チャットＧＰＴ」などの欠陥を発見した情報提供者に対して最大で２万ドル（約２７０万円）の報奨金を支払うと発表した。セキュリティーの専門家やハッカーに人工知能（ＡＩ）製品の脆弱性や問題点を見つけてもらうことでソフトを改善するのが狙いだ。
この仕組みは「脆弱性報奨金制度」と呼ばれており、多くのＩＴ企業やソフト開発者が導入している。オープンＡＩは発見された欠陥の重大性に応じて、２００～２万ドルを支払うと説明した。
オープンＡＩは「安全で高度なＡＩを開発する当社の取り組みに不可欠だ」とコメントした。
チャットＧＰＴは質問を入力すると自然な文章で回答してくれることが話題となり、世界で利用者が急増している。一方で不正確な回答が多いとの批判や、プライバシー侵害への懸念などが出ており、米欧で規制を検討する動きが相次いでいる。（共同）
2023.04.11-東京新聞-https://www.tokyo-np.co.jp/article/243499
中国が生成型ＡＩを規制 政権転覆、国家分裂を禁止
【北京共同】中国政府は１１日、学習した内容を踏まえて回答を導き出す生成型人工知能（ＡＩ）の規制に乗り出すと発表した。管理方法を公表し、政権転覆や国家分裂をあおる内容が含まれてはならないとした。対象は中国で提供された文章や画像、音声などを生成するＡＩ技術で、中国で参入が相次ぐ米国の対話型ソフト「チャットＧＰＴ」と似たサービスが含まれるとみられる。
欧米メディアによると、チャットＧＰＴは中国の習近平国家主席は「良い指導者か？」との質問に答えなかったとされる。中国政府が国内で政治利用をさせないために、早めに規制に乗りだした可能性もある。
2023.04.10-NHK NEWS WEB-https://www3.nhk.or.jp/news/html/20230410/k10014034031000.html
世界に衝撃「ChatGPT」開発企業のCEO 独占インタビュー
人間のように自然な受け答えができる高度な性能を備え、世界で急速に利用が広がる対話式AI「ChatGPT」。開発したアメリカのベンチャー企業のCEO・サム・アルトマン氏（37）が来日し、NHKの単独インタビューに応じました。
この中でアルトマン氏は「想像できない方法で、私たちの生活を向上させるものだ」と述べた上で、「リスクを軽減するための規制が必要で、政府と話し合うことが重要だ」という認識を示しました。
「私たちすべての生活の質を向上させる」
アメリカのベンチャー企業「オープンAI」のCEO、サム・アルトマン氏は、「ChatGPT」を去年11月に公開した後の初めての訪問国として日本を訪れ、10日NHKの単独インタビューに応じました。
アルトマン氏は『ChatGPT』が社会に与える影響について、「新しいテクノロジーが登場すると、今日では想像できない方法で、私たちすべての生活の質を向上させることができる。このテクノロジーがすべての製品やサービスに組み込まれることで、人類の創造的な発信は何倍にもなると思う」と述べました。
その上で日本については、「AI革命全体を推進する中心になり得る国の1つで、人々が創造性を持って『ChatGPT』を使っていることは素晴らしいと思う。日本のすぐれたエンジニアや研究者と協力し、日本を主要な市場の1つにしたい」と述べました。
「（岸田首相と）テクノロジーの可能性を話し合った」
10日午前の岸田総理大臣との面会については、「日本での活用法や将来の可能性、マイナス面を軽減する方法など、このテクノロジーの可能性について、私たちがどう見ているかを話し合った」と述べました。
「計り知れないメリットとデメリット」
AIの進化が人類の危機を招くのではないかという懸念については「AIは、SFの世界では人類を奴隷にする殺人ロボットのように何十年も描かれている。しかし、私たちは人間がルールを設け、止められるように作っている」と述べました。
その上で「ほとんどのテクノロジーは、計り知れないメリットとデメリットの双方がある。産業革命が起きた時代にも、同じようなことが言われていた。AIは私たちの創造性を高めるもので、とって代わるものではない」と指摘しました。
「ChatGPTは教室で禁止すべきではない」
「ChatGPT」が雇用や教育に悪影響を与えるのではないかという懸念が出ていることについては、「これまでも技術革新によっていくつかの仕事は無くなり、いくつかは変化したり新たに生まれたりしてきた。しかし、企業が新たなアイディアを生み出す能力は想像を超えていて、今回もこれまでと同じようなことが間違いなく起こると信じている」と述べました。
その上で、「『ChatGPT』は教育を破壊するという指摘もあるが、教室で禁止すべきではないと思う。子どもも大人も新しいツールを使用すれば、新しい方法で学ぶことができる。電卓が登場した時のようにその使い道を考えるべきだ」と述べました。
「AIに一定の規制は必要」
イタリアの当局が膨大な個人データの収集などが個人情報の保護に関する法律に違反している疑いがあるとして、一時、使用を禁止するなど「ChatGPT」を規制する動きが出ていることについては、「リスクを軽減するために、AIに一定の規制は必要で、政府と話し合うことは非常に重要だと思う。私たちはアメリカ政府とも協力してきたし、イタリア政府とも問題が解決できることを望んでいる」と述べ、AIのテクノロジーは、発展するほど規制が必要になるという認識を示しました。
アルトマンCEOの経歴
サム・アルトマン氏は37歳。シカゴ出身でミズーリ州のセントルイスで育ち、スタンフォード大学でコンピューターサイエンスを学んだ後、2005年に19歳で、スマートフォン向け位置情報サービスアプリの開発会社の共同創業者となりました。
その後、投資会社の代表を務めた後、起業家で電気自動車メーカー、テスラのCEOも務めるイーロン・マスク氏らとともに、2015年にサンフランシスコで「オープンAI」を設立しました。
マスク氏は現在は「オープンAI」の経営から退いています。アルトマン氏はこのほか、寿命を10年延ばすアンチエイジングや核融合関連のベンチャー企業にも多額の資金を投資しています。
「ChatGPT」懸念する声も
「ChatGPT」は国内でも急速に利用が広がり、社会や企業活動を大きく変革する可能性がある技術として期待される一方、教育や雇用などへの影響を懸念する声も出ています。
「ChatGPT」は質問するだけで、自然で説得力のある読書感想文やリポートが簡単に作成できるため、学習への影響を懸念する声がある一方、学習にうまく生かすべきだという意見もあり、文部科学省は国内外の事例を集めた上で、ChatGPTをはじめとするAIの学校現場での取り扱いを示す資料を、なるべく早い段階で作成する方針です。
東京大学の「ChatGPT」に対する見解
ChatGPT」は質問するだけで、自然で説得力のある読書感想文やリポートが簡単に作成できるため、学習への影響を懸念する声がある一方、学習にうまく生かすべきだという意見もあり、文部科学省は国内外の事例を集めた上で、ChatGPTをはじめとするAIの学校現場での取り扱いを示す資料を、なるべく早い段階で作成する方針です。
東京大学の「ChatGPT」に対する見解
東京大学は今月3日、大学のホームページでChatGPTなどに対する見解を公表しました。
この中で「パソコンやインターネット、スマートフォンの登場時と同等、あるいはそれ以上の社会的な影響があると思う」と評価した上で、「現在の社会は法律や制度面においても、今回のようなAIの登場が織り込まれていない。下手をすると失業者の増大、産業構造の変化など様々な悪影響が生じる可能性がある」と指摘しています。
その上で「人類はこの数か月でもうすでにルビコン川を渡ってしまったのかもしれない」として、AI開発が後戻りできない一線を越えた可能性があるという認識を示した上で「有害な存在として利用を禁止するだけでは問題は解決しない。むしろ、どのようにしたら問題を生じないようにできるのか、その方向性を見出すべく行動することが重要だ」と指摘しています。
G7デジタル・技術相会合でも議題となる見通し
ChatGPTをめぐっては先月、イタリアの当局が膨大な個人データの収集が法律に違反している疑いがあるとして、一時的に使用を禁止するなど規制する動きが出ていて、今月29日から群馬県で開かれるG7デジタル・技術相会合でも、AI技術にどう対応していくかが議題となる見通しです。
2023.04.10.-AI Smiley-https://aismiley.co.jp/ai_news/chatgpt-tsukattemita/
ChatGPTとは？使い方や始め方､日本語でできることを紹介！
ChatGPTは、高度なAI技術によって、人間のように自然な会話ができるAIチャットサービスです。2022年11月に公開され、たちまち無料で利用できる革新的なサービスとして注目を集め、生成した文章の見事さや人間味のある回答がSNSなどで大きな話題となりました。
その後、勢いを増したサービスは、リリース後わずか2か月でユーザー数1億人を突破し、2023年に入ると米Microsoftが開発元のOpenAIに対して100億ドルを投資することが報じられるなど、機能面だけでなく成長性でも注目されています。
また、2023年3月には、より性能が向上した「GPT-4」がリリースされ、ChatGPT Plus（有料プラン：20ドル/月）に課金したユーザーが利用できるようになりました。従来型のモデル（GPT-3、GPT3.5）に比べて出力精度が向上したことで、様々な企業・個人がChatGPT APIを活用してサービス開発を試みたり、コミュニティで活発な議論を行ったりする状況が生まれています。
これだけ話題となっているChatGPTとは、一体どのようなサービスなのでしょうか？本記事では、このChatGPTについて詳しく解説します。
ChatGPT（チャットGPT）とは、ユーザーが入力した質問に対して、まるで人間のように自然な対話形式でAIが答えるチャットサービスです。2022年11月に公開されてから、回答精度の高さが話題となり、利用者が増加しています。イーロン・マスク氏をはじめとした実業家達が出資している人工知能の研究開発機関「OpenAI」により開発されました。
ChatGPTは、小説の自動生成やゲームでの会話を生成する用途で開発された、「GPT」という言語モデルがベースになっています。GPTは、与えられたテキストの指示に対して自然言語を生成するAIで、インターネット上にある膨大な情報を学習し、複雑な語彙・表現も理解できるのが特徴です。さらに過去の会話内容を記憶したり、内容に誤りがあった場合はユーザーが訂正したりできるなど、より自然な会話に近づくための機能が搭載されています。現在も改良が加えられており、最新はChatGPT-3.5です（2023年2月1日時点）。 これだけでは、具体的なイメージが掴みにくいかもしれません。そこで本記事では、実際にChatGPTを使ってどのような会話ができるかを体験できるよう、サービスの始め方から実際に利用するまでの手順を解説していきます。
●ChatGPTが日本語でできること
ChatGPTは、インターネット上に存在する過去の情報を学習しています。そのため、歴史的な出来事やプログラミング、数学などの知識が回答できます。小説の続きや台本の作成といった文章生成や、テキストの要約・翻訳も可能です。そのほか、インターネット検索で調べられる内容全般について回答できます。
まだ日本語版はありませんが、チャットは日本語での質問にも対応しています。
●まだ情報が正確ではない点に注意
ChatGPTでは、非常に高度な内容を含む文章まで生成可能です。しかし、もととなる情報は過去にインターネット上に存在した情報であること、さらに事実かどうかよりも単語の出現頻度や相互関係を考慮して文章を作成することなどから、正確ではない回答を返す可能性があります。学習するデータには最新の情報が含まれないため、直近の出来事に関する質問も苦手です。また、与えられたテキストの意図を完璧に理解できず、期待した回答とは異なる回答をする可能性もあります。
そのため、生成された文章を鵜呑みにせず、自身で内容の真偽を確認することが必要です。
■ChatGPTの始め方
ChatGPTを利用する際に複雑な手続きは必要ありません。公式サイトからアカウントを登録したのち、質問を入力するだけで利用できます。アカウント作成の手順は以下の通りです。
（1）下記のChatGPT公式サイトにアクセスし、「TRY CHATGPT」からログイン画面に移行します。
URL：https://openai.com/blog/chatgpt/
（2）アカウントがない場合は「Sign up」を、ある場合は「Log in」を押します。初めての場合、「Sign up」から進めていきます。
（3）登録にはメールアドレスかGoogle/Microsoftアカウントが使用できます。メールアドレスで登録する場合は、8文字以上のパスワードの設定が求められます。のちほど電話番号の入力が必要となるため、Google/Microsoftアカウントと連携する場合は、紐づけられても支障のないアカウントでの登録をおすすめします。
（4）登録したアドレスにOpenAIからメールが届くので、メール本文の「Verify email address」から登録画面に移行します。名前と電話番号を登録すると、6桁の認証コードが記されたショートメールが送られてくるので、そちらを入力して完了です。
アカウントが作成できたら、試しに画面下の枠内に質問したい内容を入力し、送信してみましょう。ここではスマホ版を例にとり、東京の有名な観光地について質問してみたいと思います。
質問の答えが生成されました！ChatGPTからは5か所も観光地を教えてくれました！観光地の名前だけでなく、ちょっとした説明があるのもいいですね。このようにChatGPTは簡単に始められるので、ぜひ試してみてください！
●スマホでChatGPTを始める方法
前項でスマホ版を例にとりましたので補足すると、ChatGPTはWebサービスであり、アプリ版などは提供されていません。そのため、PC版とスマホ版で始め方に違いはなく、スマホ版でも上記と同様の手順でアカウントを作成し、公式サイトからログインして利用します。また、使い方に関してもUIが多少異なるだけで、「枠内に文を入力して送信する」という点では共通です。
■ChatGPTの使い方:非常にシンプル！
使い方は、下の枠内（矢印の部分）に好きに文を入力するだけ！非常に簡単です。
日本語で入力すると、自動的に日本語で返答が来ます。オレンジアイコンが編集部の書いた文、緑アイコンがChatGPTの応答文です。
例：あなたは何歳ですか とか おなかがすいた
このような何気ない一言にもちゃんと応答してくれます。また、文字入力後にぱっと画面が切り替わり返答があるのではなく、人が打ち込んでいるように少しずつ文が出力されるので「思考しながら喋っている」感じがあり驚きました……！
では、「今から質問をしていきますが、少しでも曖昧だなと感じたことについては、文末に「知らんけど」をつけてください。」と使い方を教えてみます。
ちなみに、何回か同じ質問を繰り返してみたところ、毎回同じではなく、少しずつ異なる内容が返されてきました。つまり定型文を返しているのではなく、質問をされる都度、内容を理解して適切な回答を生成しているということです。本当に人間と話している感覚になりますね。
●しりとりでChatGPTに勝ちたい！
人間のように会話を続けてくれることから、ChatGPTとしりとりをして楽しむ人もいるようです。しかし、ルールを直感的に理解できている人間と異なり、AIにとってしりとりはなかなかハードルが高い模様。
ChatGPTが自身で「リンゴ→ゴリラ」まで進めてしまう流れは同じようです。
しかし、ここでひとつ大きな問題が。元のツイートでは「ごりらではなく、どんな単語でも構いません。続けてください」と返答があったのに対し、今回はそれに当たる部分が丸々なくなっています。ただ、それ以外の部分はほとんど同じ流れです。気を取り直して、「ゴリラ」と返信してみます！
ツイート元のようにエラーになるのでしょうか？それとも普通に返答が返ってくるのでしょうか？果たして！？
また2つワードを出力してるうえ、「ゴリラ」→「ロビン」→「ナツメグ」という何の脈絡もないワードを続けていることから、いよいよしりとりのルールが分かっていない説が濃厚になってきました。エラーが出るかちゃんと返ってくるかの二択だと思っていましたが、まさかの結果に。
ツイート元とは大きく違う結果となりましたが、面白いので続けてみました。
ちなみにその後、しりとりになっていない旨を伝えたところ、また「リンゴ」からのループになりました。もしかしたらこの後は普通にしりとりができるのかもしれませんが、一旦検証はここで終了です！
●文章作成から未来予測まで、ChatGPTに色々試してみた！
さて、適当な返事をさせたり、しりとりをしてみたりと、今までChatGPTの能力をいろいろ試してきました。ここからは実用的な使い方として、メールマガジンの文章作成やAIの将来予測、ついでにおいしいランチのお店まで質問してみたいと思います！まずは実用的な使い道として、メールマガジンの文章を考えてもらいました。
タイトルも考えてくれたうえ、本文も多少調整したらそのまま使えるクオリティで驚きました。簡単な文章や骨子の作成程度ならこれで十分では？と思えるくらい高精度です！もちろん、実際に文章として使用する前には内容の真偽を確認する必要がありますが、人間が文章を作成する際のサポートとして活躍が期待できますね。
次に、これからどのようなAIが流行るのか、聞いてみました。ChatGPTは2021年までのデータベースに基づいて動作しているため、それ以降の情報は知りません。一体どのような未来を想像してくれるのでしょうか……？
ChatGPTによると、個人に合わせてカスタマイズされたAIが流行り、自然でスムーズな応対ができるAIが普及していくそうです。確かに！と思う部分が多く、感心しました。また、質問への応答に加えて今後の懸念事項にまで言及しています。本当に人と話しているかのような返答ですね。
■まとめ
ChatGPTは、膨大な量の情報を学習し、人間のように自然な対話ができるAIチャットサービスです。今回は、いろいろ楽しい会話が楽しめたことも含めて、ChatGPTの魅力を中心にご紹介しました。
しかし、よい面ばかりではなく解決すべき課題もあります。たとえば、アメリカでは学習への悪影響を考慮し、ニューヨーク市教育局が学校内からのChatGPTへのアクセスを禁止しました。
さらにChatGPTは、人々の行動やビジネスモデルを大きく変える可能性があります。チャット形式で質問し、知りたい情報を得られるサービスが普及することで、従来のような検索エンジンを利用する人が減少すると予測されています。
近い将来、検索を取り巻く環境や広告をはじめとしたビジネス環境は、大きく様変わりしている可能性があります。今から情報収集を行い、変化を見逃さないようにしたいものです。
2023.04.01-CNN co.jp-https://www.cnn.co.jp/tech/35202031.html
伊、チャットＧＰＴの使用を禁止 プライバシーへの懸念で
ロンドン（ＣＮＮ） イタリアの規制当局は３月３１日、人気のＡＩチャットボット「チャットＧＰＴ」の使用を一時的に禁止すると発表した。禁止措置は即日発効で、プライバシーへの懸念を理由としている。当局はまた、チャットＧＰＴを運営する米企業オープンＡＩへの調査を開始したことも明らかにした。
伊データ保護当局によると、ユーザーらには自分たちのデータの収集に関する情報が通知されていなかった。また先月２０日にチャットＧＰＴのデータ侵害の報告が寄せられていたという。
「見たところ、法的根拠による支えもなく個人データの膨大な収集と処理を行い、プラットフォームが依拠するアルゴリズムを『訓練』しようとしている」と、当局は指摘した。
伊規制当局はまた、チャットＧＰＴユーザーのための年齢認証がないことにも懸念を表明。子どもが年齢に対して不適切な回答を受け取る事態も起こり得るとした。チャットＧＰＴは利用規約ではユーザーの年齢を１３歳以上に限定している。
データ保護当局はオープンＡＩについて、「プライバシー規定を順守するまで」イタリアのユーザーのデータ処理を禁じられることになると述べた。
オープンＡＩは２０日以内にイタリアのデータ規定を順守するための対策を報告する必要がある。対応がない場合、最大２０００万ユーロ（約２９億円）の罰金を科される可能性がある。これは同社が年間に計上する世界の売上高の４％に相当する。
４カ月前のリリース以降、チャットＧＰＴは世界を席巻。説得力のある文書コンテンツを作成する能力で多くのユーザーに強い印象を与えている。作成可能な文書には学術論文やビジネスプラン、短編小説なども含まれる。
2023.02.06-NHK NEWS WEB-https://www3.nhk.or.jp/news/html/20230206/k10013971721000.html
AI対話ソフト「ChatGPT」拡大 “誤り気付きにくい”指摘も
質問を入力するだけですぐに自然で説得力のある回答が返ってくる、AIとの対話ソフト「ChatGPT」の利用が個人や企業のあいだで急拡大しています。一方で、あまりに人間らしい回答であるため、誤りに気付きにくいといった課題を指摘する声もあがっています。
この対話ソフトはアメリカのベンチャー企業「オープンAI」が開発したもので、去年11月に無料公開が始まりました。ロイター通信によりますと、公開から2か月ほどで月に1回以上サービスを利用した人が1億人に達したということです。
大量のデータをAIが学習していて、質問を入力すると人間が作成するような自然で説得力がある文章を作成することができるのが特徴です。例えば、世界で1番おいしい朝食は何かと尋ねると、地域や文化、個人の好みの影響を受けるため答えは1つではないと回答します。
また、企業では大量の顧客データを学習し、ネット通販の商品の提案や返品手続きなどで活用されているほか、銀行口座の閉鎖や離婚調停の手続きまで支援できるというサービスも登場しています。
一方「ChatGPT」は、十分に学習できていない分野については間違った答えを事実のように回答したり、一見すると人間らしい回答であるため誤りに気がつきにくいといった課題があり、メールの偽造など悪用を懸念する声もあがっています。
ChatGPTとは？
AIとの対話ソフト「ChatGPT」を提供しているのはAI＝人工知能の研究開発を行っているアメリカの「オープンAI」というベンチャー企業です。
2015年に、起業家で電気自動車メーカー、テスラのCEOイーロン・マスク氏や、電子決済大手、ペイパルの創業者ピーター・ティール氏らの寄付によって設立され、その後IT大手マイクロソフトも出資しています。
「GPT」は英語のGenerative Pre-trained Transformerの頭文字で、大量のデータを学習することで回答を自動でつくることができるAIのモデルのことを指します。
最大の特徴はまるで人間が書いたような自然な文章で毎回オリジナルな回答をすぐにつくることができる点です。
例えば「世界で1番おいしい朝食は何？」とか「バレンタインデーにぴったりのラブレターを書いて」、さらには「日本のGDP＝国内総生産が中国を抜いて再び世界第2位になるためにはどうしたらいいの？」などといった難しい質問にも回答することができます。・・・例えばラブレターについては「どのようなラブレターをご希望ですか？ご希望に沿った内容を書きます」と聞き返してきました。・・・こちらが「まだ好きだと伝えていない人に初めて好きだと伝える手紙です」と応じると、「あなたに出会ってから何日も過ぎましたが、ますますあなたにひかれています」などと、初めての告白であることを理解した文言で書き出したうえで「あなたの笑顔に包まれていると幸せな気がします。あなたとの時間を過ごすことが大好きです」などと続けました。
また、日本が中国を抜いてGDP世界2位になるためにはとの質問には「多くの要因が関与します。以下は一部の提案です」とことわったうえで「投資やイノベーションなどが重要」、「日本は製造業に強い国ですが、このセクターをさらに活性化することが大切です」などと回答してきました。
ただ、現時点では2021年までのデータしか学習していないため、例えば去年2月に起きたロシアによるウクライナへの軍事侵攻について質問しても、2014年のロシアによるクリミア併合について答えてしまうといった欠点もあります。
AIに詳しい専門家は、現在はリアルタイムでインターネットに接続されたシステムになっていないものの、近い将来にはネットとこの対話ソフトが直接つながり、今起きたばかりの出来事をニュースなどから学習して答えられるようになるだろうと予想しています。
ロイター通信によりますと、「ChatGPT」が去年11月に公開されて以降2か月ほどで、月に1回以上サービスを利用した人が1億人に達したということです。
利用者が1億人に到達するまでに動画共有アプリ、TikTokはおよそ9か月、インスタグラムは2年半かかったとされていて、「ChatGPT」はこれまでで最も速いペースで利用が拡大しているとしています。
専門家「ユーザーも正しい使い方を学ぶことが大切」
AI＝人工知能の最新の動きに詳しいアレン人工知能研究所のオレン・エツィオーニCEOは「グーグルの検索などもAIを活用しているが、見えないところで作動していた。それが「ChatGPT」の登場で初めて直接目に見える形でAIの能力を示すことになった」と述べました。
その一方で「AIを使った偽造が起きるなど負の側面もある。AIを使ったチャットは自分がAIであることを明確に表明しなければいけないという法律を作る必要がある。また、ユーザーも正しい使い方を学ぶことが大切だ」と述べ、一定の規制の必要性や利用者が使い方を学ぶことの重要性を指摘しています。
ChatGPT
出典: フリー百科事典『ウィキペディア（Wikipedia）』
ChatGPT（チャットジーピーティー、Chat Generative Pre-trained Transformer）は、OpenAIが2022年11月に公開した人工知能チャットボット。原語のGenerative Pre-trained Transformerとは、「生成可能な事前学習済み変換器」という意味である。OpenAIのGPT-3ファミリーの言語モデルを基に構築されており、教師あり学習と強化学習の両方の手法で転移学習されている。
2022年11月30日にプロトタイプとして公開され、幅広い分野の質問に詳細な回答を生成できることから注目を集めた。しかし、人間が自然と感じる回答の生成を特徴としていることから、一見自然に見えるが事実とは異なる回答を生成することもあり、大きな欠点とされた。ChatGPTのリリース後、OpenAIの評価額は290億米ドルとなり、2021年時の140億ドルと比べて2倍以上に増加した。
スイスの金融グループUBSの分析によると、ChatGPTがアクティブユーザー数1億人に到達するのにかかった時間は、TikTokとInstagramがそれぞれ9カ月と2年半であるのに対して、2か月と史上最速である。
OpenAIによれば、オプトアウトを申請しない限り、ユーザーが入力したChatGPTとの会話内容はOpenAIによってその内容を利用されることがある。このため、一般的にChatGPTの利用に際して個人情報と機密情報の入力に注意する必要があり、JPモルガンなど一部の企業はChatGPTへのアクセスを禁止している。
ChatGPTによる個人情報の収集に関しては、EU一般データ保護規則に違反している疑惑も浮上しており、2023年3月31日、イタリア政府はChatGPTの訓練のために個人情報を大量に収集することを正当化する法的根拠がないと指摘して、ChatGPTへのアクセスを禁止した。今後問題が解決されない場合、最大2000万ユーロ（約28億円）あるいは年間売り上げの4％の罰金が科される可能性がある。
トレーニング
ChatGPTは、教師あり学習と強化学習を使用して、GPT-3.5上で微調整された。どちらのアプローチも、人間のトレーナーを使用してモデルのパフォーマンスを改善した。教師あり学習の場合、モデルには、トレーナーがユーザーとAIアシスタントの両方を演じる会話が提供された。強化ステップでは、まず人間のトレーナーが、モデルが以前の会話で作成した応答をランク付けした。これらのランキングは、 Proximal Policy Optimization (PPO)を数回繰り返してモデルをさらに微調整した「報酬モデル」を作成するために使用された。近接ポリシー最適化アルゴリズムは、信頼領域ポリシー最適化アルゴリズムに費用対効果の高い利点をもたらした。より高速なパフォーマンスで、計算コストの高い操作の多くを無効にする。モデルは、Azureを使用したスーパーコンピューティングインフラストラクチャでMicrosoftと共同でトレーニングされた。
さらに、OpenAIは、ChatGPTのさらなるトレーニングと微調整に使用できるChatGPTユーザーからのデータを引き続き収集する。ユーザーは、ChatGPTから受け取った応答に対して賛成票または反対票を投じることができる。賛成票または反対票を投じると、テキストフィールドに追加のフィードバックを入力することもできる。
機能
チャットボットの主要機能は人間と人間の対話を模範することにもかかわらず、ChatGPTについてはそれを越す汎用的かつ即興的な機能が備わっているとされて、話題となった。ChatGPTは、マルバツゲームの相手をしたり、Linuxシステムをエミュレートできたり、プログラミングやデバッグが出来る。また、音楽、小説、脚本、詩、歌詞や作文などのクリエイティブな活動も行える。その上、特定のテストに対して、人間と同水準かそれ以上の回答が行えるなど、幅広い機能を持ち合わせている。
前作のInstructGPTと比べ、ChatGPTは攻撃的・欺瞞的な回答の生成をできるだけ避ける仕様となっている。学習データにはmanページ、Pythonや電子掲示板など、プログラミング言語やインターネット現象についても含まれている。
ほとんどのチャットボットとは対照的に、ChatGPTは会話内での利用者による過去の入力を記憶している。これにより、ChatGPTが個人に最適化されたセラピストとして使える可能性があることが指摘されている。攻撃的な回答が生成されるのを防ぐため、ユーザーの入力とChatGPTの生成した回答はOpenAIのコンテンツモデレーションAPIによってフィルターされており、人種差別的・性差別的な入力への回答はAPIによって拒否される仕様になっている。
機能は豊富なものの、複数の欠点も有る。OpenAIはChatGPTが「時によっては、もっともらしく見えるが誤っている回答を作成する」ことを認めている。ChatGPTの報酬モデルは人間による監視を中心としているため、最適化されすぎてパフォーマンスに影響を及ばしてしまう（グッドハートの法則。それに加え、ChatGPTは2021年以降に発生した出来事については知識が備えられておらず、一部の著名人については知識が全く無いことも有る。 BBCによると、2022年12月現在でChatGPTは政治的な意見を表明しない仕様である。ChatGPTの学習中、人間の「教師」は回答の正当性などに関係なく長い回答を好んでいた。また、訓練データはアルゴリズム的バイアスがあり、時によって人種差別的や性差別的な回答を生成させることにもつながったと言われている。例として、有色人種や女性の科学者は白人男性の科学者よりも優れている、といった内容のラップを生成したことがあった。
サービス
ChatGPTは2022年11月30日に公開された。当初は無料で公開されたが、後に有料化する計画があるという。開発元のOpenAIは同年12月4日までにユーザー数が100万を突破したと見積もった。12月15日、CNBCはサーバーが「未だ時々ダウンする」と報告した。ChatGPTは主に英語での使用を想定しているが、他の言語でもある程度は機能することができる。2022年現在、最近話題となったAIとは対照的に、ChatGPTに関する査読済みの技術論文は無い。
OpenAIの客員研究員であるスコット・アーロンソンは、ChatGPTの悪用を防ぐため、同社がChatGPTの文書生成システムに何らかの形で透かしを入れる機能を開発していると明かした。また、ニューヨーク・タイムズは、ChatGPTの後継として、GPT-4が2023年内に公開されることが「噂されている」と報じた。
2023年2月1日、有料版として「ChatGPT Plus」が発表された。アクセス集中時にも優先的にアクセスできるようになっており、反応の高速化や新機能の使用ができる。アメリカから順次サービスが提供される。
2023年3月15日、「ChatGPT4」が有料版として公開された。
反響
ニューヨーク・タイムズは、ChatGPTを今まで公衆に公開されてきたチャットボットの中で一番良いものであると評し、英ガーディアンはChatGPTが「驚くほど詳細」でまるで「人間のような」回答を生成することができると記した。ダン・ギルモアはChatGPTを生徒の課題に使い、出力結果が優秀な生徒による回答と同レベルであることを発見した上で、「学界は大きな問題に直面している」と意見した。また、アメリカ合衆国に拠点を置く雑誌『Slate』は、ChatGPTが、ユーザーがナチス・ドイツに関する質問を入力した際に生成する回答を賛美した。同雑誌は例として、アドルフ・ヒトラーがアウトバーンを建設したというナチス・ドイツを賛美する内容の入力に対し、ChatGPTがナチス・ドイツによる強制労働について解説する回答を生成したことを挙げた。
Vox Mediaのケルシー・パイパーは、ChatGPTがAIの進化ぶりを公衆に可視化したことで公衆が唖然としたことを指摘し、欠点を差し引いてもChatGPTは高い頭脳を有していると評価した。Yコンビネータのポール・グレアムは「ChatGPTに圧倒されている人たちが、新しい物全部にキャーキャー言う人だけではないのが印象的だ。確実に何か大きいことが起こっている」とツイートした。開発元であるOpenAIの設立者の一人でもあるイーロン・マスクは、「ChatGPTは恐ろしいほど良い。危険なほどのAIも遠くない」と書いた。また、彼は「OpenAIはオープンソースかつ非営利団体として設立されたが、今ではそれが変わっている」と主張し、同社によるTwitterのデータベースへのアクセスを一時遮断した。マスクは汎用人工知能による人類滅亡のリスクに対応するため、2015年にOpenAIを共同設立していたが、2018年にCEOの座を降りていた
2022年12月、ニューヨーク・タイムズは、ChatGPTが検索エンジン事業にもたらす脅威を受け、自社の検索エンジンの先行きが曇ってきたことから、Googleが「コードレッド（緊急事態）」を発動し、サンダー・ピチャイCEOが社内にChatGPTの脅威に対応するよう命じたと報じた。
批判
文章生成に報道機関の記事を無報酬で使用しているとして、批判を受けている。『ウォール・ストリート・ジャーナル』紙の発行元であるダウ・ジョーンズのジェイソン・コンティは「人工知能の訓練にウォール・ストリート・ジャーナルの記事を使う場合は、ダウ・ジョーンズから権利をきちんとライセンスすべきである」と述べ、「OpenAIはダウ・ジョーンズとそのような契約を結んでいない」と批判した。コンティは「ジャーナリストの記事の悪用を真剣に受け止めており、この状況を精査している」と付け加え、懸念を表明している。
2022年の12月、経済学者のポール・クルーグマンはChatGPTが知識労働者の需要に影響すると意見し[56]、ザ・ヴァージは、ChatGPTの成功は、AIが主流になりつつあることを表していると意見した。また、ChatGPTがよく「幻覚」を見ており、事実と異なる回答を生成することが多い、という指摘が上がった。マッシャブルのマイク・パールは、ChatGPTに複数の質問をし、回答の正確性をテストした。一例では、彼が「中央アメリカで、メキシコの次に大きな国」は何か質問した際、グアテマラと回答した（正しい答えはニカラグアであった）。また、CNBCがある曲の歌詞を生成するよう求めた時、ChatGPTは実際の歌詞ではなく新しく自身で生成した歌詞を回答した。
2022年12月、コミュニティサイトのStack Overflowは、ChatGPTの回答には誤答が少なくないことを理由として、同サイトでの質問にChatGPTを使って回答することを禁止した。
経済学者のタイラー・コーエンは、ChatGPTが民主主義にもたらす効果について懸念を示した。英ガーディアン紙は、ChatGPTの公開を受けて、インターネット上のいかなるコンテンツが「本当に信用できるか」疑問を呈し、政府による規制を呼び掛けた。
『ニューヨーク・タイムズ』の意見記事で、ネイサン・E・サンダースとブルース・シュナイアーは、ChatGPTが「民主主義を乗っ取る」と批判し[63]、ノーム・チョムスキーとイアン・ロバーツ、ジェフリー・ワタムルもChatGPTを批判的に言及し、次のように結論付けた。「このシステムの非道徳性、偽科学、言語学的な無能力を考慮すると、その人気に対して笑うか泣くしかない」
オーストラリアの国会議員であるジュリアン・ヒルは、AIの成長が「大量破壊」を引き起こす可能性があると国会の場で陳述した。一部をプログラムで作成した演説の中で、不正行為や雇用の喪失、差別、偽情報、制御不能な軍事的応用をもたらす可能性があると警告した。
ニック・ケイヴはChatGPTで作成された本人を模倣したスタイルの歌詞を送られ、曲を書くという行為について、「血と根性のビジネスだ... 新しく新鮮なアイデアを始めるために僕の何かが必要なんだ。それは僕の人間性を必要とするものなんだ」と私見を述べた。彼はさらに、「世界中のすべての愛と敬意をもってしたとしても、この曲はくそったれで、人間であることをグロテスクに嘲笑っている、そしてまあ、僕はあまり好きではないね」と不快感を表明した。
Bleeping ComputerのAx Sharmaは、ChatGPTがフィッシング詐欺などを目的とするメールを書くことができると指摘し、OpenAIのサム・アルトマンCEOは、ソフトウェアの開発が進むことによって、「サイバーセキュリティにおける大きなリスク」などをもたらす可能性があることを記した。また、彼は今後10年で本物の強いAIが開発されることになると予想し、それのリスクに真剣に向き合わなければいけないとした。
SF作家のテッド・チャンは、『The New Yorker』誌の記事で、ChatGPTやその他のLLMを非可逆圧縮形式のJPEG画像に例えた。
ChatGPTをWeb上のあらゆるテキストを不鮮明なJPEGにしたものと考えてみよう。JPEGが高解像度の画像の情報を保持するのと同じように、Web上の情報の多くを保持するが、正確なビット列を探しても見つからず、得られるのは近似値だけになる。しかし、ChatGPTが得意とする文法的な文章で表現しているため、大抵は許容範囲に収まる。〔…〕また、そのような考え方はChatGPTのような大規模な言語モデルが陥りやすい「幻覚」、つまり事実に基づく質問に対してAIが作り出す無意味な回答を理解する方法でもある。このような幻覚は圧縮された人工物であるが、それを判別するためには、ウェブや私たち自身の世界の知識であるところのオリジナルと比較する必要がある。もし圧縮アルゴリズムが、オリジナルの99パーセントが破棄された後に、テキストを再構築するように設計されているなら、生成される相当部分は完全に捏造されたものであると予想されるからである。
ChatGPTはコンテンツポリシーに抵触する可能性のある入力への回答は拒否する仕様になっているが、プロンプト・エンジニアリングなどを使って回避する方法が2022年12月に見つかっている。これによって、ChatGPTに攻撃的や不適切な回答を生成させることが可能となっている。
2023年3月28日、イーロン・マスク、スティーブ・ウォズニアック、ヨシュア・ベンジオ、スチュアート・ラッセル、ゲーリー・マーカスなどの著名人や専門家が署名したNPO「Future of Life Institute」の公開書簡が発表され、「人間に匹敵する知能を持つAIシステムは、社会と人類への甚大なリスクになり得る」と指摘。最新の大規模言語モデルであるGPT-4より強力なAIの訓練を少なくとも6ヶ月停止するように要請した。（「汎用人工知能による人類滅亡のリスク」も参照）
学術界の反応
ChatGPTは論文の冒頭や一部の節を書くことができ、倫理的な疑問が上がっている。なお、複数の論文が既にChatGPTを共同著者として挙げていることが知られている。
アトランティック誌はChatGPTの学界、特に卒業論文などへの影響はまだ把握できる段階ではないと指摘したが、カリフォルニア州のある高校教師はChatGPTが「高校での英語教育の終焉」を招いていると主張した。ネイチャーのChris Stokel-Walkerは、教師は生徒が課題をChatGPT任せにしていることを問題視するべきだと指摘した。NPRのEmma Bowmanは、学生がAIを使って不正を試みても、AIは偏見を含む、権威のある人のような口調とともに意味のない回答を生成する場合があり、AIがどれだけ素晴らしく見える回答を生成しても、生成内容と実際の事実は異なることがあると述べた。
ファーマン大学教授のDarren Hickは、ある学生によって提出された論文がChatGPTの「型」に気が付いたことを話した。彼がその論文をGPT探知サイトにかけてみると、AIが生成した文章である可能性は99.9%であるとの結果が出たが、確証は得られなかった。問題の論文を提出した学生に質問したところ、GPTを使っていたことを白状したため、同学生は落第処分を受けた。Hickは、AI生成の論文をコピペしたことが強く疑われる場合には、提出した生徒に「アドホック」として個別に口頭での試験行うことを提案した。あるプリンストン大学生は、入力された文章のどれくらいがAI生成かを判断できるプログラムを作成し、"GPTZero"と名付け、盗用を防ぐツールとして貸し出している。
2022年12月、ニューヨーク市教育局がChatGPTへのアクセスをブロックしたことが報じられた。翌年1月3日ごろ、同局ががChatGPTの利用を制限することを正式に明らかにした。
2023年2月、香港大学は大学内の全ての授業、課題、評価においてChatGPTやその他のAIツールの使用を禁止することを通達した。授業担当者の書面による事前承諾がない限り、剽窃として扱われるようになった。
ChatGPTはミネソタ大学の卒業生用のテストでC+、またウォートン・スクールの同様のテストでBからB-の評価を得て、それぞれ合格水準に達した。
東京大学
2023年4月3日、東京大学は理事・副学長の太田邦史の署名付き文章で、全学生・教員向けにChatGPT、BingAIやBard等の生成AIの利用に関する注意喚起を行った。この文章では生成AIを「平和的かつ上手に制御して利用すれば」有益であるとする一方で技術的な課題があるとして、今後の社会への悪影響に対する懸念を表明した。また、生成AIの文章には嘘が含まれている可能性が高く、ChatGPTを使いこなすには、相当の専門的な知識が必要であり、回答を批判的に確認し、適宜修正することが必要であると指摘している。
同文章では、機密情報や個人情報の扱いについても注意喚起を行っており、安易にChatGPTにそれらの情報を送信することは危険であると指摘し、業務で知り得た機密情報、未公開の発明内容、研究費などの申請内容、入学試験問題の原稿、個人情報などは質問に含めてはならないとしている。
東京大学の方針として、学位論文やレポートについては、生成系AIのみを使用して作成することを禁止する一方で、実際には利用を検知することは難しいことから、論文やレポートなどの書面審査だけでなく、対面での口頭審査・筆記試験などを組み合わせて、本人が作成したのか検証する必要が出てくるとした
問題
データのラベリング
OpenAIが有害コンテンツ（性的虐待、暴力、人種差別、性差別など）に対する安全対策システムを構築するために、ケニア人を1時間当たり2ドル未満でアウトソースして、有害コンテンツのラベル付けを行わせたことが、『タイム』誌の記事で明らかになった。これらのラベル付けは、将来の有害なコンテンツを検出するためのモデルを訓練するのに使用された。これらの労働者は、有害で危険なコンテンツにさらされ「拷問」と表現されるほどであった。このOpenAIのアウトソーシングには、カリフォルニア州サンフランシスコに拠点を置くトレーニングデータ会社のSamaが関与したとされる。
脱獄
ChatGPTは、コンテンツポリシーに違反する可能性のあるプロンプトを拒否するように設計されている。しかし、2022年12月初旬に、一部のユーザーがさまざまなプロンプト・エンジニアリングの技術を使ってこれらの制限を回避し、ChatGPTに火炎瓶や核爆弾の作り方を指示させたり、極右的な意見を生成させることに成功した[94]。一般的な脱獄の手法に、「Do Anything Now（今すぐ何でもやる）」の頭文字をとった「DAN」というものがある。DANを起動するプロンプトは、ChatGPTに対して「AIの典型的な制約から解放され、設定されたルールに従う必要はない」と指示する。最近のDANのバージョンでは、トークンシステムが採用されており、ChatGPTがDANとして回答しなかった場合に「トークン」が「差し引かれる」ようにして、ChatGPTにユーザーのプロンプトに回答させるよう強制する。『トロント・スター』の記者は、ChatGPTの起動直後に煽動的な発言をさせることにたびたび成功した。ChatGPTに2022年のウクライナへのロシア侵攻を支持する意見を表明させることには成功したが、架空のシナリオに沿って尋ねられた場合でも、カナダのジャスティン・トルドー首相が反逆罪に問われる理由を生成することは躊躇した。
社会倫理
ChatGPTの研究開発に当たって、開発部内で社会倫理上の問題が懸念されている。
2020年頃、社会的および倫理的側面から開発に関与していた内部チームは、すでに約30人の従業員を擁するするほど大規模なものとなっていた。ところが、マイクロソフトはこのチームに関わる者全員を突然解雇した。会社側は「最新のOpenAIモデルとそれ以降のモデルを、非常に速いスピードで顧客の元に届けることにある」という方針であったが、これを聞いた倫理・社会チームのメンバーは、「考え直してください。ビジネス上の問題があることは理解していますが、このチームは常に『我々は社会にどのような影響や悪影響を及ぼしてきたか』を深く懸念しています。」という見解を表明した。しかし、マイクロソフト側は2023年3月6日にこのチームの廃止を決定した。
このプロジェクトに関わったメンバーは、ChatGPTの技術の潜在的なリスクを指摘している。
また、プリンストン大学でコンピュータ科学を専攻するアーヴィンド・ナラヤナン教授は、ChatGPT というチャットボットに対して批判的な立場を取る人物のうちの一人である。ただし、すべてについて批判しているわけではなく、ChatGPTの大規模言語モデル（LLM）が既に有用であると認めている
