Skip to content

Commit

Permalink
Merge pull request #2702 from responsible-ai-collaborative/staging
Browse files Browse the repository at this point in the history
Deploy to Production
  • Loading branch information
kepae authored Mar 26, 2024
2 parents fb04841 + 74a9a44 commit d4d70d1
Show file tree
Hide file tree
Showing 58 changed files with 1,776 additions and 424 deletions.
1 change: 1 addition & 0 deletions .github/workflows/test-build.yml
Original file line number Diff line number Diff line change
Expand Up @@ -83,6 +83,7 @@ jobs:
MONGODB_REPLICA_SET: ${{ secrets.MONGODB_REPLICA_SET }}
MONGODB_TRANSLATIONS_CONNECTION_STRING: ${{ secrets.MONGODB_TRANSLATIONS_CONNECTION_STRING }}
MONGODB_MIGRATIONS_CONNECTION_STRING: ${{ secrets.MONGODB_MIGRATIONS_CONNECTION_STRING }}
TRANSLATE_SUBMISSION_DATE_START: ${{ vars.TRANSLATE_SUBMISSION_DATE_START }}
GATSBY_REALM_APP_GRAPHQL_URL: ${{ secrets.GATSBY_REALM_APP_GRAPHQL_URL }}
GATSBY_PRISMIC_REPO_NAME: ${{ vars.GATSBY_PRISMIC_REPO_NAME }}
PRISMIC_ACCESS_TOKEN: ${{ secrets.PRISMIC_ACCESS_TOKEN }}
Expand Down
173 changes: 173 additions & 0 deletions site/gatsby-site/content/about/index.ja.mdx

Large diffs are not rendered by default.

2 changes: 0 additions & 2 deletions site/gatsby-site/content/research/1-criteria/index.es.mdx
Original file line number Diff line number Diff line change
Expand Up @@ -6,8 +6,6 @@ slug: "/research/1-criteria"
aiTranslated: true
---

## Definición de un "incidente de IA"

La industria de los viajes aéreos comerciales debe gran parte de su creciente seguridad al análisis y archivo sistemáticos de accidentes e incidentes pasados dentro de una base de datos compartida. En aviación, un accidente es un caso en el que se produce un daño sustancial o la pérdida de vidas. Los incidentes son casos en los que el riesgo de accidente aumenta sustancialmente. Por ejemplo, cuando un pequeño incendio se extingue rápidamente en una cabina, es un "incidente", pero si el fuego quema a los miembros de la tripulación en el curso de la extinción, es un "accidente". La [base de datos de aviación de la FAA](https://www.faa.gov/data_research/accident_incident/) indexa datos de registro de vuelo e investigaciones posteriores de expertos en exámenes integrales de factores tecnológicos y humanos. En parte debido a este autoexamen continuo, viajar en avión es una de las formas más seguras de viajar. Décadas de mejoras iterativas en los sistemas de seguridad y la capacitación han reducido las muertes [81 veces](https://theblogbyjavier.com/2020/01/02/aviation-safety-evolution-2019-update/) desde 1970 cuando se normalizó para millas de pasajeros.

Donde la industria de la aviación tiene definiciones claras, los informáticos y los filósofos han debatido durante mucho tiempo las definiciones fundamentales de la inteligencia artificial. En ausencia de líneas claras que diferencien los algoritmos, la inteligencia y los daños que pueden causar directa o indirectamente, esta base de datos adopta un criterio adaptativo para ingerir "incidentes" donde los informes se aceptan o rechazan sobre la base de un [conjunto de reglas cada vez mayor](/es/editors-guide).
2 changes: 0 additions & 2 deletions site/gatsby-site/content/research/1-criteria/index.fr.mdx
Original file line number Diff line number Diff line change
Expand Up @@ -6,8 +6,6 @@ slug: "/research/1-criteria"
aiTranslated: true
---

# Définir un "Incident IA"

L'industrie du transport aérien commercial doit une grande partie de sa sécurité croissante à l'analyse et à l'archivage systématiques des accidents et incidents passés dans une base de données partagée. Dans l'aviation, un accident est un cas où des dommages importants ou des pertes de vie se produisent. Les incidents sont des cas où le risque d'accident augmente considérablement. Par exemple, lorsqu'un petit incendie est rapidement éteint dans un poste de pilotage, il s'agit d'un "incident", mais si le feu brûle des membres d'équipage en cours d'extinction, il s'agit d'un "accident". La [base de données de l'aviation de la FAA](https://www.faa.gov/data_research/accident_incident/) indexe les données des journaux de vol et les enquêtes d'experts ultérieures dans des examens complets des facteurs technologiques et humains. En partie à cause de cet examen de soi continu, le transport aérien est l'un des modes de transport les plus sûrs. Des décennies d'améliorations itératives des systèmes de sécurité et de la formation ont réduit le nombre de décès [81 fois](https://theblogbyjavier.com/2020/01/02/aviation-safety-evolution-2019-update/) depuis 1970 lorsqu'il est normalisé pour les milles passagers.

Là où l'industrie aéronautique a des définitions claires, les informaticiens et les philosophes débattent depuis longtemps des définitions fondamentales de l'intelligence artificielle. En l'absence de lignes claires différenciant les algorithmes, l'intelligence et les dommages qu'ils peuvent causer directement ou indirectement, cette base de données adopte un critère adaptatif pour ingérer les "incidents" où les rapports sont acceptés ou rejetés sur la base d'un [ensemble de règles croissant](/fr/editors-guide).
11 changes: 11 additions & 0 deletions site/gatsby-site/content/research/1-criteria/index.ja.mdx
Original file line number Diff line number Diff line change
@@ -0,0 +1,11 @@
---
title: "「AIインシデント」の定義"
metaTitle: "「AIインシデント」の定義"
metaDescription: "AIインシデントデータベースにインシデントレポートが受け入れられるかどうかの理由は何か?"
slug: "/research/1-criteria"
aiTranslated: true
---

商業航空旅行業界は、過去の事故やインシデントを体系的に分析し、共有データベースにアーカイブすることで安全性を向上させています。航空では、事故は実質的な損傷や生命の喪失が発生するケースです。インシデントは事故のリスクが実質的に増加するケースです。たとえば、コックピットで小さな火災が素早く消火されると「インシデント」ですが、その消火の過程で火災が乗員に被害を与える場合は「事故」となります。FAA(航空宇宙局)の[航空データベース](https://www.faa.gov/data_research/accident_incident/)は、飛行記録データとその後の専門家による調査を索引化し、技術的および人間の要因の包括的な調査につなげています。この継続的な自己検証の一環として、航空旅行は最も安全な旅行手段の一つです。安全システムとトレーニングの繰り返しの改善により、1970年以来の乗客マイルに対する死亡者数は[81倍減少](https://theblogbyjavier.com/2020/01/02/aviation-safety-evolution-2019-update/)しています。

航空産業が明確な定義を持っているのに対し、コンピュータサイエンティストと哲学者は長らく人工知能の基本的な定義について議論してきました。明確な線引きがない中で、アルゴリズム、知能、およびそれらが直接または間接的に引き起こす可能性のある害について、このデータベースは「インシデント」を取り込むための適応的な基準を採用しており、報告が[編集者ガイド](/editors-guide)で定義された規則セットに基づいて受け入れられるか拒否されるかが判断されます。
33 changes: 33 additions & 0 deletions site/gatsby-site/content/research/2-roadmap/index.ja.mdx
Original file line number Diff line number Diff line change
@@ -0,0 +1,33 @@
---
title: "データベースのロードマップ"
metaTitle: "ロードマップと将来の開発"
metaDescription: "AIIDの発展に伴う変更についての予測"
slug: "/research/2-roadmap"
aiTranslated: true
---

## 開発中

**インシデントレポートの翻訳:** 現在、インシデントデータベースは英語圏向けに収集および提供されていますが、知的システムは言語、文化、場所を横断して展開されています。このプロジェクトは、すべての機械翻訳可能な言語のサポートに向けて進行中であり、インシデントレポートをどの言語からでも取得し、70億人以上の潜在ユーザーに提供できるようにしています。

**ベストプラクティスリソース:** AIインシデントデータベースの動機の1つは、インシデントがデプロイ前にプロダクトやエンジニアリングチームと共有できるようにすることです。現在、データベースは問題(つまり、インシデント)のみを表示していますが、問題を防止または緩和するためのリソースを選択的に表示できるように進化しています。

**ポストモーテムレポート:** ホステッドサービスでは、サービスの停止後に「ポストモーテム」を公開することが一般的です。ここで、企業は何が起こったか、誰が影響を受けたか、どれくらいの期間影響を受けたか、そして将来的にそのような停止を防ぐために企業が行う取り組みについて説明します。AIインシデントデータベースは、AIインシデントのポストモーテムに特にサポートを提供することを検討しています。

**インシデントモニタリング:** より多くの知的システムが実世界で展開されるにつれて、インシデントの監視、収集、分類がますます難しくなります。AIインシデントデータベースが最新の知的システムに対応し続けるためには、AIインシデントを監視し、簡単に取り込むためのスクレイパーが必要です。現在、学生チームがこのプロジェクトのための基本的なAPIを開発しています。

## 可能性のある将来のプロジェクト

**技術的な障害のタクソノミー:** AIIDには、経験した被害とそれに関連する技術的要素をリンクする厳密な技術的なタクソノミーが欠けています。システムがどのように構築されるかに関する知識を持つ機械学習エンジニアのチームがこのギャップを埋めることを望んでいます。

**インシデントデータの収集:** 多くのインシデントタイプは、企業によって分析され、内部で再発を避けるために使用されるインシデントデータを生成します。研究アソシエイトには、インシデントデータの自発的な開示を促進し、そのデータをインシデントレコードと関連付ける役割があります。将来的には、この種の開示が特定の管轄区域では義務付けられる可能性があり、AIIDはそのサポートが必要です。

**あなたのプロジェクト:** AIインシデントデータベースは、責任あるAIコラボレーション(RAIC)によって管理されています。これはAIインシデントデータベースの影響テーゼに合致するプロジェクトに協力するためのオープンな招待と考えてください。

## 提供された成果

**初期のインシデント収集:** 初期データセットは2019年に[Roman Yampolskiy](http://cecs.louisville.edu/ry/)[Catherine Olsson](https://www.linkedin.com/in/catherineolsson/)、および[Sam Yoon](https://www.linkedin.com/in/samyoonnz/)からのインシデントリストを結合して収集されました。これらのインシデントは合計1,000以上のインシデントレポートに関連しています。

**インシデントディスカバリーアプリケーション:** 初期データセット収集の後、[Sean McGregor](https://seanbmcgregor.com/)[Discover](/apps/discover)アプリケーションを開発し、初期のインシデントレポート収集で組み立てられた1,000以上のレポートの索引付けとクリーニングをサポートしました。

**タクソノミー:** すべての市場セグメントおよび政府の機能に対して知的システムが開発されています。データ製品の[研究品質](/research)を向上させるには、インシデントをインシデントのタイプ、規模、関与した技術、影響を受けた当事者に応じて正規化および分類するシステムが必要です。これらおよび他の分類は、多利害関係者システムで議論の的となります。すべての分類について完全な合意が必要ではなく、研究データベースの研究有用性を向上させるために、中央の分類機関なしにタクソノミーを適用することが可能です。各「[分類のスコープ](/research/4-taxonomies)」は、タクソノミーを開発し、インシデント全体にタクソノミーを適用する責任を持つエディタによって管理されます。詳細については[お問い合わせください](/contact)
17 changes: 17 additions & 0 deletions site/gatsby-site/content/research/3-history/index.ja.mdx
Original file line number Diff line number Diff line change
@@ -0,0 +1,17 @@
---
title: "初期収集方法論"
metaTitle: "初期収集方法論"
metaDescription: "AIインシデントデータベースの初期のインシデントレポートがどのように収集されたか?"
slug: "/research/3-history"
aiTranslated: true
---

アメリカの航空産業は法律により、インシデントや事故を連邦航空局に報告することが義務付けられています。知的システムに対する強制的な報告義務は存在しないため、AIIDは一般的または研究のプレスに取り上げられるほど有名になったインシデントに基づいて構築されています。その結果、データベースは人々によって知られているすべてのインシデントではなく、「公共のインシデント」を代表するものと考えるべきです。

現在のデータベースは、研究アシスタントのサム・ユンによって以下の方法で集められた初期のインシデントレポートによって支配されています。

- [YampolskiとOlssonによって集められた初期のリンク](/research/2-roadmap)
- リンクはGoogle検索の一連の結果で関連する情報を見つけるためのキーワードを示していました。
- Google検索結果のトップ3ページに潜在的に関連するリンクは開かれ、ソースによって説明されているイベントについての質の高い情報があるかどうかが確認されました。関連する場合、それらはデータセットに追加されました。
- 検索プロセス中に識別された他の関連するように見えるインシデントもデータセットに含まれました。
- 特定の種類の結果は含まれませんでした。それらは仮説的であるか、学術的であるか、および/または実際の害を引き起こさないためです。
Loading

0 comments on commit d4d70d1

Please sign in to comment.