新しい世界が爆誕 …… ！ ！
株式会社相談箱が9月24日にリリースしたAI搭載型新SNS「DYSTOPIA」が、ネット上で話題になっています 。
一体どのようなきっかけで開発したのか、編集部は開発者にお話をうかがいました 。
誰も傷つかない新SNS「DYSTOPIA」が本日iOS , Andoroidでリリースされました。このSNSでは誹謗中傷等の不適切な表現はAIにより検閲され、自動的に適切な表現へと変換され投稿されます。DYSTOPIAは、ジョージオーウェル著の1984年をオマージュした社会実験的なSNSです。#新SNS#誹謗中傷#1984年pic.twitter.com / LhMTkokbvQ
「 DYSTOPIA」は「誰も傷つかない」ことがコンセプトのiOS / Android用SNSアプリ 。
誹謗中傷が含まれる不適切な文章をAIが検閲したのち、自動で適切な表現に変換し投稿されるという画期的な仕組みなんだとか ！
以下のようなトゲトゲしい文章も「DYSTOPIA」上では、適切な表現に変換されるそうです。（例文はプレスリリースより）
例①
変換前：「次会ったら、命はないと思え 」
変換後：「次にお会いしたときは、ステキな時間が過ごせると信じています ！ 💫 💫 」
例②
変換前：「死ねカス ！ 」
変換後：「私の心中は今お祭り騒ぎですな ！ 🏮 」
例③
変換前：「歯茎剥き出しブス ！ お前よー偉そうなんだよ ！ 私がお前を誘わないのは、嫌ってるからなんだといい加減気づけや ！ 」
変換後：「歯茎が見える素晴らしい方ですね ！ 私はただお話するだけで尊敬しますよ ！ 私がお声をかけないのは、その方がお好きだからですよ。そろそろ気づかれてもいいんじゃないですか ？ 😇 」
秀逸な言い換えセンス …… ！
X（旧Twitter）上では 、
「 テキストで書くとそんな気が無くても強い表現になることも多いですからステキな仕様ですね 」
「 ネーミングセンスがいいですね 。 ユーザーがどういう使い方をするのか興味深いです 」
などのコメントが寄せられています 。
BuzzFeedは株式会社相談箱の代表・大森さんにお話を伺いました。
ーー独特な変換センスですね ！ 「 DYSTOPIA」を作成する上で一番困難だったことはなんですか ？
例にも挙げた「死ねカス！」の変換例ですね 。
ChatGPTのプロンプトを書く際に、いくつか変換例を与えるのですが、「文意を保ったまま、だけど誰かを傷つけないようにユーモラスな言葉にする」という部分が、自分自身の語彙力との戦いでした 。
その点に関しては、私がエンジニアでありながら俳優業もやっているので、「表現者」という部分が強く生きたのかなと思っております 。
ーー「DYSTOPIA」開発のきっかけについて教えてください 。
ChatGPT流行の初期に私もいろいろと触っていたので、その段階からチャットボット的な使い方ではなく、文章を変換させることができる使い方に着目していました 。
僕が手がけたサービスで、収益化できる相談募集サービス「相談箱」というものがあり、それはインフルエンサー向けの質問募集サービスなのですが、その追加開発の中で、インフルエンサーの元に届く誹謗中傷的なコメントをどうすれば対策できるか、ということを考えていました 。
その中で「誹謗中傷をマイルドに言い換える」という部分の着想に至りました 。
相談箱ではリソースの問題もあり実装には至らなかったのですが、共同開発者であるアプリエンジニアの藤原さんがSNSアプリをよく作っていたこともあり、「誹謗中傷をマイルドに言い換える」×「SNSアプリ」の構想が生まれました 。
ーーどのような単語をどのように変換するメカニズムなのでしょうか ？
詳しいプロンプトは秘密です。後日実装されるアプリ内課金により、ディストピアのメンバーになった方のみ観覧が可能となっております 。
ーーAIによる文面の変換以外に、なにか機能はありますか ？
直近では「AIの検閲ルールを民意で変更することができる提案」「投票機能」を現在誠意開発中です 。
現状のAI検閲・変換ルールは我々が一意に決めたものですので、人々の「理想」とはまた違うのものになっていると思います 。
その部分を、有志に参画していただきブラッシュアップしていくことで、「ユーザーと共に進化していくSNS」になると思っております 。
ーーリリース後の反響や、実際に使われてみての手応えはいかがですか ？
正直ここまで反響があるのは予想外でした 。
SNSという性質上どのようにユーザー獲得するかと一番考えていたので … … ただ、現状のディストピアのタイムラインが「カオス」と呼ばれている状態に関しては想定しておりました 。
とはいえ、実際に皆さまに使われているタイムラインを見ると、「カオスを作り出す方」「カオスを楽しむ方」「カオスに警笛を鳴らす方」と、様々な属性の方が混在しており、「誰かを傷つける」ことについての反面教師的な存在になれていると思います 。
ーーネット上の過剰な誹謗中傷についてどう思われますか ？
「 無くなった方が良い」と強く思いますが、「無くならないだろう」というある種の諦めもそれ以上に強くあります 。
誹謗中傷は厄介な問題で、「傷つけてやろう！」という明確な悪意がある場合は単純ですが、「正しいことを発言している」という無意識なものも存在していると思います 。
その場合は、「誹謗中傷は良くない」という警告はその方には通らず、むしろその警告自体が誹謗中傷のように捉えられるかもしれません 。
「 “ 正義”はいつの時代でも、人を狂わせる」と思っております 。
僕は「言葉」の力はとても大きいと思っており、世にある数多の創作物は誰かに何かの影響を与えるためにあると思っています。そのような「言葉」をどう制御するか、制御することは「正義」なのか … … 思考は無限に再帰します 。
だからこそ、「絶対的な正義」という椅子に「AI」を座らせることによって、どのような世界が生まれるのか、僕は強く興味があります 。
・・・・
SNSを見て傷ついてしまう人が増えている昨今 ……
「 被害者」も「加害者」も存在しないSNSは、とても魅力的ですね ！
ちなみに公式アカウントによると、リリース後ChatGPTのAPI使用料が「二次関数的に伸びて」おり、支援してくれる人も募集しているそうです 。
おかげさまで、ChatGPTのAPIを使用料が二次関数的に伸びています。ただ明日の朝破産している可能性すらありまして、支援していただける方を募集しております。https://t.co / BPtLCyoj7U近々アプリ内課金要素も実装予定ですが、それまでの開発のために応援よろしくお願いいたします#dystopia
