ユーザーごとのRateLimitを設ける

[2RiniaR]

概要

同一のdiscordIDから送信されるクエリに対して、一定時間あたりの回数制限を設ける。規定の回数を超えた場合には、その旨を返信する。

目的

• 同一のユーザーによるクエリへの回答でチャットが流れるのを防ぐため。
• 同一のユーザーがコンテキストを占有することを防ぐため。

議論

• GPT-4の利用権限を持つユーザーに関しても、RateLimitを設けるか？
• そもそもRateLimitという手段はこの課題解決に妥当か？

[m1sk9]

GPT-4の利用権限を持つユーザーに関しても、RateLimitを設けるか？

設けていいと思います.
GPT-4 は GitHub Sponsor の他にサーバーブーストでも使用できるので.

そもそもRateLimitという手段はこの課題解決に妥当か？

他の方法ももちろんあると思います.
ただすぐ思いつくものがこれくらいしかないというのは事実だけど.