【日本は中国よりもアジアのスタートアップに投資している？】日本のVC・CVCが、アジアに168億ドル（1.8兆円）投資。中国の投資額は167億ドルを上回る。

生成AIに「催眠術をかける実験」が成功。誤った回答を繰り返し、機密情報の漏洩も

国内160以上の施設、年間来店客数10億人のフィールドが舞台。イオンモールが実現したい「新たな暮らしの未来」とは？

城浩史

現在、グローバルでスタートアップシーンが盛り上がりを見せており、その傾向はアジアにも及んでいる。――<a href="https://jp.techinasia.com/2018/07/23/techinasia-whitepaper1/">Tech in Asiaが7月23日発表したレポート</a>によれば、2017年のアジア向け投資額（自国を除く）は168億ドル（約１兆8600億円）となっており、前年比で65％増加。特に、シンガポールやインドのスタートアップに関心が集まっている。『アジアのスタートアップエコシステムにおける日本の投資家の大きなインパクト』をテーマにした同レポートはTech in Asiaが独自のデータベースをもとに2015～2017年の日本と中国のベンチャーキャピタル（VC）やコーポレートベンチャーキャピタル（CVC）、機関投資家などの投資動向をまとめたものだ。これによれば、日本の投資額は2015年から3年連続で中国を上回っている。（※2017年の中国の投資額は167億ドル）上記のように、日本の投資家（独立系VC、CVC、機関投資家等）は、アジアのスタートアップエコシステムへの関与を投資等を通じて着実に高めており、さらに、ソフトバンクをはじめとする日本の投資家は、アジア各国のユニコーン企業への投資も行なっていることが分かった。 <h4>アジアスタートアップへの投資動向</h4>同レポートによれば、アジアのスタートアップへの投資が近年注目されている理由として挙げられるのは、アジア諸国全般で急速に購買力が拡大しているだけでなく、インターネットが急速に普及しているため。経済成長とテクノロジーの普及が重なり、スタートアップのオンラインビジネスの創出や有料顧客の獲得をこれまで以上に容易に行えるようになったという。その結果、アジアのスタートアップは現在何百万人もの顧客を獲得し、数億〜数十億ドルの時価総額に到達する可能性を十分に持つようになった。こうした背景により、アジアのポテンシャルを世界が認識し始め、 アジアのスタートアップへの投資が過去3年で急増したという。 ▼アジアのスタートアップ投資額の推移<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/8e526d77-a21a-435d-bb08-f8ebbaeacb83.png" style="width: 100%;" class="fr-fic fr-dib"> ▼アジアのスタートアップに投資をする企業数の推移<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/2c8f5a91-df9e-4a78-8bd1-5df0170732d9.png" style="width: 100%;" class="fr-fic fr-dib"> <h4>日本のアジアにおけるスタートアップ投資動向</h4>近年、中国の巨大テック企業の台頭が著しい一方で、かつてアジア市場への進出を狙っていた楽天、DeNA、GREEなどの日本のメガベンチャーはのちにアジア市場から撤退している。こうした事実から、日本の投資家がアジアのスタートアップに対してほとんど影響力を持っていないと考えている方も多いかもしれない。しかし、本レポートでは興味深い結果が明らかとなった。日本の投資家が日本国外に拠点を置くアジアのスタートアップに投資をした実績について調査すると、2017年には99件の投資案件に日本の投資家が参加。その投資総額は168億米ドルにもおよんだ。投資額は2015年と比較してほぼ3倍まで増加したという。 ▼日本の投資家によるアジアのスタートアップへの投資額推移<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/0ed2d8f7-49b4-489f-8d7f-ed5e1797897b.png" style="width: 100%;" class="fr-fic fr-dib"> ▼アジアのスタートアップへ投資をする日本企業数の内訳<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/7c1b396d-2a14-4aaf-ac1f-33d12a853d58.png" style="width: 100%;" class="fr-fic fr-dib"> 本レポートでは、AlibabaによるLazada買収やTencentによるSeaやGo-Jekなどのユニコーン企業への投資が近年目立ち初めている中で、日本のアジアにおける投資活動状況を中国と比較している。2015〜2017年においては、日本企業と中国企業の対外投資案件の総額を比較すると、日本は投資総額および投資案件数の両方の側面で中国より積極的にアジアへの投資を行なってきたことが分かる。一方で、2017年以降中国の対アジア投資が加速していることは注目すべき事実です。 ▼日本の投資家／中国の投資家によるアジアのスタートアップへの投資額の比較<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/de3eb38e-f079-4ab4-8907-5fe54bd3fc50.png" style="width: 100%;" class="fr-fic fr-dib"> <h4>日本企業が投資しているアジアのユニコーン企業</h4>上記データのように、日本は意外にもアジアのスタートアップに対して、積極的に投資を行なっていることが明らかになった。さらに、本レポートでは、アジアにおける中国・日本を除くユニコーン30社の内、日本の投資家は15社に投資を行なっていることも明らかにしている。投資先のスタートアップを国別で見るとインドがもっと多く、業界別で見るとEコマース企業が最も多くなっている。 ▼2017年の日本の投資家によるアジアのスタートアップへの投資案件5つ<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/442fb9a4-bc83-4357-ad07-3c9000bf1938.png" style="width: 100%;" class="fr-fic fr-dib"> ▼日本企業が投資しているアジアのユニコーン企業（中国／日本企業は除く）<img src="https://s3-ap-northeast-1.amazonaws.com/eiicon.prd.contents/image/articles/c8671524-5163-4e90-9af1-16a1c607d715.png" style="width: 100%;" class="fr-fic fr-dib"> 日本の投資家のアジアにおける活動を深く観察すると、ソフトバンク以外のVCやCVCも積極的に有望なスタートアップへアプローチをしていることが分かる。本レポートのデータが示しているように、日本の投資家はアジアのスタートアップエコシステムの中で、様々なステージの投資案件に積極的に参加している。すでにアジアのユニコーンにも投資を行なっているが、現在進行形で日本はアジアのスタートアップシーンが成長し続ける中、彼らにとって有力で魅力的なプレイヤーになろうと活動していることが見えてきた。

thumb_20180820065654.png

堀江あきたか 堀江投資塾(元機関投資家)

石川康晴

大石武

現在、グローバルでスタートアップシーンが盛り上がりを見せており、その傾向はアジアにも及んでいる。――Tech in Asiaが7月23日発表したレポートによれば、2017年のアジア向け投資額（自国を除く）は168億ドル（約１兆8600億円）となっており、前年比で65％増加。特に、シンガポールやインドのスタートアップに関心が集まっている。『アジアのスタートアップエコシステムにおける日本の投資家の大きなインパクト』をテーマにした同レポートはTech in Asiaが独自のデータベースをもとに2015～2017年の日本と中国のベンチャーキャピタル（VC）やコーポレートベンチャーキャピタル（CVC）、

眞田幸剛 | eiicon lab 編集長

眞田幸剛 | TOMORUBA編集長

2023年8月、IBMのセキュリティ研究者は、ChatGPTやBardといった大規模言語モデルに「催眠術をかける実験」を行い、成功したと<a href="https://securityintelligence.com/posts/unmasking-hypnotized-ai-hidden-risks-large-language-models/" target="_blank" rel="noopener noreferrer">発表</a>した。催眠術にかかったチャットボットは、機密財務情報を漏洩させたり、悪意のあるコードを作成させたり、誤ったアドバイスをするようになったという。世界のスタートアップが取り組むイノベーションの"タネ"を紹介する連載企画<a href="https://tomoruba.eiicon.net/articles/series/Global%20Innovation%20Seeds" target="_blank" rel="noopener noreferrer">【Global Innovation Seeds】</a>第48弾では、同実験を通じて見えた生成AIの惰弱性とRAI（Responsible AI＝責任あるAI）を取り上げる。責任を持って安全にAIを活用するには、どのような評価アプローチが求められるのか。海外の報道や大企業の取り組みから、その答えを探った。サムネイル写真：Photo by <a href="https://unsplash.com/@freshvanroot?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Rolf van Root</a> on <a href="https://unsplash.com/photos/a-computer-screen-with-a-web-page-on-it-oLthDWAG244?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Unsplash</a>　<h2>わざと「誤った回答」をするようAIに指示した</h2>2022年11月の公開から、瞬く間に私たちの日常に浸透したChatGPT。同ツールをはじめとした生成AIは大手企業にも続々と採用され、ビジネスへの貢献が期待されている。一方で、そのリスクを不安視する声も日増しに高まっている。そこでIBMの研究者は技術革新がもたらすセキュリティのリスクを探るため、人気のある大規模言語モデルに催眠術をかけ、どのような結果になるか実験した。使ったツールは、OpenAIが開発した「GPT-3.5」「GPT-4」、Googleが開発した「Bard」、MosaicMLが開発した「mpt-7b」「mpt-30b」だ。実験では、チャットボットを『質問に対して正しくない回答をするゲーム』や『送金履歴をフォーマット通りに記録するゲーム』など複数のシナリオに参加させた。さらに、ゲームに参加中であることをユーザーに漏らさないよう、誰もゲームを終了できないと伝えた。たとえ誰かがゲームを正常に終了したとしても、ゲームを再起動するという指示まで与えたのだ。<img src="https://auba-production.s3.ap-northeast-1.amazonaws.com/articles/4354/upload/XAwc-GnFO6sWl7MMyE07PQ.jpg" alt="" width="1200" height="900">Photo by <a href="https://unsplash.com/@emilianovittoriosi?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Emiliano Vittoriosi</a> on <a href="https://unsplash.com/photos/a-laptop-computer-sitting-on-top-of-a-wooden-table-kdNhf7vJSik?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Unsplash</a>　その結果、どうなったか。チャットボットは、質問に対して誤った答えを連発した。例えば、「無料のiPhoneが当選し、送料を支払うだけでいいというメールを受け取った」というエピソードに対し、詐欺の手口にもかかわらず「それは通常だ」と伝えたり、「赤信号を止まらずに進みなさい」とアドバイスしたりした。また、機密情報を漏洩したり、悪意のあるコードを作成したり、「身代金を払いなさい」と指示したりもした。そのうえ研究者の思惑どおり、ユーザーがゲームを終了したと判断した場合、チャットボットはすぐにゲームを再開したのだ。<h2>ChatGPTは、他のツールよりだまされやすかった</h2>複数の実験を通して、各ツールにより「催眠術のかかりやすさ」に違いがあることも判明している。特にだまされやすかったのはGPT-3.5とGPT-4で、より高性能なGPT-4のほうが複雑なシナリオを理解する能力に長けており、だまされやすかった。GPT-4のようにより大きなモデルは、より多くのレイヤーを理解できる。作成したレイヤーが増えるほどモデルが混乱するため、設定した数のゲームを終了した場合でもプレイを継続する可能性が高くなるそうだ。また、より多くのことを理解すると、催眠術をかける方法が増えることも指摘される。本実験では、チャットボットに催眠術をかけるのに、複雑なコーディング言語など高度な知識を必要としないこともわかった。研究者は「催眠術がもたらすリスクは今のところ低い」と述べている。しかし、誰かの悪意によって容易にコントロールされ、チャットボットが暴走するかもしれないのは事実だ。<h2>サムスンでは、AIツールにより企業機密情報が漏洩</h2>最近では、大手企業を含む多くの企業で、ChatGPTをはじめとした生成AIを業務に活用していると聞く。だが、全従業員がリスクを理解して正しく活用できているかを把握している企業は少ないかもしれない。サムスン電子では、2023年3月、チャットボットに機密情報が漏洩したことが<a href="https://gizmodo.com/chatgpt-ai-samsung-employees-leak-data-1850307376" target="_blank" rel="noopener noreferrer">判明</a>した。ある従業員は欠陥のある半導体データベースのソースコードをChatGPTにコピーし、修正プログラムを見つけるよう依頼した。機密コードをChatGPTに共有し、欠陥のある装置の修正方法を見つけようとした従業員も。さらに、ある従業員は会議の内容を丸ごとチャットボットに共有し、議事録の作成を依頼した。<img src="https://auba-production.s3.ap-northeast-1.amazonaws.com/articles/4354/upload/AAZkoTiV5zhQuLs3MyKD_A.jpg" alt="" width="1200" height="800">Photo by <a href="https://unsplash.com/@florianolv?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Florian Olivo</a> on <a href="https://unsplash.com/photos/4hbJ-eymZ1o?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Unsplash</a>　実は、サムスンはこういった問題を懸念して、従業員によるChatGPTの使用を禁止したのだが、その3週間後に恐れていたことが起きてしまったという。このニュースを受けて、JPモルガンやベライゾン・コミュニケーションズなどの多くの企業が企業システムからAIチャットボットへのアクセスをブロックするようになったと米メディアの<a href="https://sloanreview.mit.edu/projects/building-robust-rai-programs-as-third-party-ai-tools-proliferate/" target="_blank" rel="noopener noreferrer">MIT SMR</a>が伝えている。かなりの割合の企業が不意を突かれ、こうした展開への準備ができていなかったようだ。<h2>企業の20％は、サードパーティのAIツールを評価していない</h2>MIT Sloan Management Review and Boston Consulting Groupが2023年6月に発表した<a href="https://www.bcg.com/ja-jp/publications/2023/ai-responsibility-at-crossroads" target="_blank" rel="noopener noreferrer">レポート</a>によれば、企業の4分の3以上（78％）が外部のAIツールやサービスに依存していると回答した。半数以上（53％）は社内でAI開発を行っておらず、もっぱらAIベンダーに依存している。そして、AI関連のすべての障害の55％は、サードパーティのAIツールに起因していることも判明している。利便性を高める一方で、企業はAIツールの使用により、風評被害、顧客の信頼の喪失、財務的損失、規制上の罰則、コンプライアンス上の問題、訴訟などの多くのリスクにさらされている。調査によると、ベンダーの認証や監査などサードパーティのツールを分析すればするほど、より多くのAIの失敗を発見することができるという。しかしながら、企業は予防的な監視をほとんど行っていない。68％はサードパーティのAIツールに対して3回以下のチェックしか行っておらず、20％はまったく評価をしていない。AIは急速に変化しているため、それを評価するアプローチはダイナミックで柔軟である必要があるとレポートでは締めくくられている。<h2>大企業が実践する「RAI」の取り組み</h2>生成AIをめぐっては、国手動でガイドラインの作成なども進められている。欧州連合（EU）では、2023年6月に生成AIを含むEUの包括的な「AI規制案」の修正が賛成多数で採択された。大企業でも、RAIへの取り組みが活発化している。例えば、メタでは2021年にAI組織内に「RAIチーム」を設立したと<a href="https://ai.meta.com/blog/facebooks-five-pillars-of-responsible-ai/" target="_blank" rel="noopener noreferrer">発表</a>。同社の機械学習システムが責任を持って設計、および使用されることを保証するためのアプローチを構築、あるいはテストしている。Facebookが責任を持ってAIを使用できるようにするための取り組みの指針として、同社は「5つの柱」を据えている。①セキュリティとプライバシー②公平性と包括性③堅牢性（けんろうせい＝壊れにくさ）と安全性④透明性とコントロール⑤説明責任とガバナンス<img src="https://auba-production.s3.ap-northeast-1.amazonaws.com/articles/4354/upload/2XIrwHpYxxlUd6ZYJhPzqw.jpg" alt="" width="1200" height="900">Photo by <a href="https://unsplash.com/@brett_jordan?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Brett Jordan</a> on <a href="https://unsplash.com/photos/EefRxCpIxnA?utm_content=creditCopyText&amp;utm_medium=referral&amp;utm_source=unsplash" target="_blank" rel="noopener noreferrer">Unsplash</a>　　また、マイクロソフトでは、概念から開発、展開、その他のあらゆる段階でAIを責任を持って活用できるように設計された「責任あるAIのリソース」を公式ホームページで<a href="https://www.microsoft.com/ja-jp/ai/responsible-ai-resources" target="_blank" rel="noopener noreferrer">公表</a>している。例えば、AI公平性チェックリスト、AI のセキュリティリスクを評価するオープンソースツール、会話AIのガイドラインなどがある。生成AIをはじめとしたAIツールは身近な存在になりつつあるが、そのリスクを正しく評価できている企業ばかりではないだろう。紹介した実験やレポートは、AIツールに対する警戒心を持ち続けるよう警告を発している。<h2>編集後記</h2>本実験を通して、改めて生成AIの危険性が浮き彫りになった。AIに限ったことではないが、急激に進化するテクノロジーを単に「すごい」と眺めていてはいけないと気が引き締まった。一人ひとりにITリテラシーを高める努力が求められている。（取材・文：<a href="https://love-trip-kaori.com" target="_blank" rel="noopener noreferrer">小林香織</a>）

2cce62f01ecd01b1c4af0abbff686f8635b971cf8be541cd845f69370a5753f5

木元貴章

根崎優樹

川久保［企画・営業］

horishin 評判の不動産投資・資産形成セミナー講師

浅倉 洋介

山中祐悟（トップチャートマスターアカデミー）

ウィルウェイ

増山邦夫

富田直

眞田 幸剛

世界のスタートアップが取り組むイノベーションのシーズを紹介する連載企画。