-
Notifications
You must be signed in to change notification settings - Fork 35
Commit
This commit does not belong to any branch on this repository, and may belong to a fork outside of the repository.
Merge pull request #2702 from responsible-ai-collaborative/staging
Deploy to Production
- Loading branch information
Showing
58 changed files
with
1,776 additions
and
424 deletions.
There are no files selected for viewing
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Large diffs are not rendered by default.
Oops, something went wrong.
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -0,0 +1,11 @@ | ||
--- | ||
title: "「AIインシデント」の定義" | ||
metaTitle: "「AIインシデント」の定義" | ||
metaDescription: "AIインシデントデータベースにインシデントレポートが受け入れられるかどうかの理由は何か?" | ||
slug: "/research/1-criteria" | ||
aiTranslated: true | ||
--- | ||
|
||
商業航空旅行業界は、過去の事故やインシデントを体系的に分析し、共有データベースにアーカイブすることで安全性を向上させています。航空では、事故は実質的な損傷や生命の喪失が発生するケースです。インシデントは事故のリスクが実質的に増加するケースです。たとえば、コックピットで小さな火災が素早く消火されると「インシデント」ですが、その消火の過程で火災が乗員に被害を与える場合は「事故」となります。FAA(航空宇宙局)の[航空データベース](https://www.faa.gov/data_research/accident_incident/)は、飛行記録データとその後の専門家による調査を索引化し、技術的および人間の要因の包括的な調査につなげています。この継続的な自己検証の一環として、航空旅行は最も安全な旅行手段の一つです。安全システムとトレーニングの繰り返しの改善により、1970年以来の乗客マイルに対する死亡者数は[81倍減少](https://theblogbyjavier.com/2020/01/02/aviation-safety-evolution-2019-update/)しています。 | ||
|
||
航空産業が明確な定義を持っているのに対し、コンピュータサイエンティストと哲学者は長らく人工知能の基本的な定義について議論してきました。明確な線引きがない中で、アルゴリズム、知能、およびそれらが直接または間接的に引き起こす可能性のある害について、このデータベースは「インシデント」を取り込むための適応的な基準を採用しており、報告が[編集者ガイド](/editors-guide)で定義された規則セットに基づいて受け入れられるか拒否されるかが判断されます。 |
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -0,0 +1,33 @@ | ||
--- | ||
title: "データベースのロードマップ" | ||
metaTitle: "ロードマップと将来の開発" | ||
metaDescription: "AIIDの発展に伴う変更についての予測" | ||
slug: "/research/2-roadmap" | ||
aiTranslated: true | ||
--- | ||
|
||
## 開発中 | ||
|
||
**インシデントレポートの翻訳:** 現在、インシデントデータベースは英語圏向けに収集および提供されていますが、知的システムは言語、文化、場所を横断して展開されています。このプロジェクトは、すべての機械翻訳可能な言語のサポートに向けて進行中であり、インシデントレポートをどの言語からでも取得し、70億人以上の潜在ユーザーに提供できるようにしています。 | ||
|
||
**ベストプラクティスリソース:** AIインシデントデータベースの動機の1つは、インシデントがデプロイ前にプロダクトやエンジニアリングチームと共有できるようにすることです。現在、データベースは問題(つまり、インシデント)のみを表示していますが、問題を防止または緩和するためのリソースを選択的に表示できるように進化しています。 | ||
|
||
**ポストモーテムレポート:** ホステッドサービスでは、サービスの停止後に「ポストモーテム」を公開することが一般的です。ここで、企業は何が起こったか、誰が影響を受けたか、どれくらいの期間影響を受けたか、そして将来的にそのような停止を防ぐために企業が行う取り組みについて説明します。AIインシデントデータベースは、AIインシデントのポストモーテムに特にサポートを提供することを検討しています。 | ||
|
||
**インシデントモニタリング:** より多くの知的システムが実世界で展開されるにつれて、インシデントの監視、収集、分類がますます難しくなります。AIインシデントデータベースが最新の知的システムに対応し続けるためには、AIインシデントを監視し、簡単に取り込むためのスクレイパーが必要です。現在、学生チームがこのプロジェクトのための基本的なAPIを開発しています。 | ||
|
||
## 可能性のある将来のプロジェクト | ||
|
||
**技術的な障害のタクソノミー:** AIIDには、経験した被害とそれに関連する技術的要素をリンクする厳密な技術的なタクソノミーが欠けています。システムがどのように構築されるかに関する知識を持つ機械学習エンジニアのチームがこのギャップを埋めることを望んでいます。 | ||
|
||
**インシデントデータの収集:** 多くのインシデントタイプは、企業によって分析され、内部で再発を避けるために使用されるインシデントデータを生成します。研究アソシエイトには、インシデントデータの自発的な開示を促進し、そのデータをインシデントレコードと関連付ける役割があります。将来的には、この種の開示が特定の管轄区域では義務付けられる可能性があり、AIIDはそのサポートが必要です。 | ||
|
||
**あなたのプロジェクト:** AIインシデントデータベースは、責任あるAIコラボレーション(RAIC)によって管理されています。これはAIインシデントデータベースの影響テーゼに合致するプロジェクトに協力するためのオープンな招待と考えてください。 | ||
|
||
## 提供された成果 | ||
|
||
**初期のインシデント収集:** 初期データセットは2019年に[Roman Yampolskiy](http://cecs.louisville.edu/ry/)、[Catherine Olsson](https://www.linkedin.com/in/catherineolsson/)、および[Sam Yoon](https://www.linkedin.com/in/samyoonnz/)からのインシデントリストを結合して収集されました。これらのインシデントは合計1,000以上のインシデントレポートに関連しています。 | ||
|
||
**インシデントディスカバリーアプリケーション:** 初期データセット収集の後、[Sean McGregor](https://seanbmcgregor.com/)が[Discover](/apps/discover)アプリケーションを開発し、初期のインシデントレポート収集で組み立てられた1,000以上のレポートの索引付けとクリーニングをサポートしました。 | ||
|
||
**タクソノミー:** すべての市場セグメントおよび政府の機能に対して知的システムが開発されています。データ製品の[研究品質](/research)を向上させるには、インシデントをインシデントのタイプ、規模、関与した技術、影響を受けた当事者に応じて正規化および分類するシステムが必要です。これらおよび他の分類は、多利害関係者システムで議論の的となります。すべての分類について完全な合意が必要ではなく、研究データベースの研究有用性を向上させるために、中央の分類機関なしにタクソノミーを適用することが可能です。各「[分類のスコープ](/research/4-taxonomies)」は、タクソノミーを開発し、インシデント全体にタクソノミーを適用する責任を持つエディタによって管理されます。詳細については[お問い合わせください](/contact)。 |
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Original file line number | Diff line number | Diff line change |
---|---|---|
@@ -0,0 +1,17 @@ | ||
--- | ||
title: "初期収集方法論" | ||
metaTitle: "初期収集方法論" | ||
metaDescription: "AIインシデントデータベースの初期のインシデントレポートがどのように収集されたか?" | ||
slug: "/research/3-history" | ||
aiTranslated: true | ||
--- | ||
|
||
アメリカの航空産業は法律により、インシデントや事故を連邦航空局に報告することが義務付けられています。知的システムに対する強制的な報告義務は存在しないため、AIIDは一般的または研究のプレスに取り上げられるほど有名になったインシデントに基づいて構築されています。その結果、データベースは人々によって知られているすべてのインシデントではなく、「公共のインシデント」を代表するものと考えるべきです。 | ||
|
||
現在のデータベースは、研究アシスタントのサム・ユンによって以下の方法で集められた初期のインシデントレポートによって支配されています。 | ||
|
||
- [YampolskiとOlssonによって集められた初期のリンク](/research/2-roadmap)。 | ||
- リンクはGoogle検索の一連の結果で関連する情報を見つけるためのキーワードを示していました。 | ||
- Google検索結果のトップ3ページに潜在的に関連するリンクは開かれ、ソースによって説明されているイベントについての質の高い情報があるかどうかが確認されました。関連する場合、それらはデータセットに追加されました。 | ||
- 検索プロセス中に識別された他の関連するように見えるインシデントもデータセットに含まれました。 | ||
- 特定の種類の結果は含まれませんでした。それらは仮説的であるか、学術的であるか、および/または実際の害を引き起こさないためです。 |
Oops, something went wrong.