因應生成式人工智慧(AI)技術發展迅速,行政院會31日將通過國科會「行政院及所屬機關(構)使用生成式AI參考指引(草案)」,明定公務機關使用生成式AI執行業務時應適當揭露,也不可完全信任生成式AI產出的資訊。另據悉,也擬針對封閉式落地運算的生成式AI使用加以規範,也就是明定公務員不能連外網的AI。

行政院原本喊出9月將推出AI基本法,但考量AI發展快速,日前已定調「先指引後立法」,因此將先推出公部門使用生成式AI指引,接著才是提出AI基本法,惟AI基本法推出時間仍無時間表。

根據議程,行政院會31日將拍板公部門使用AI指引草案,實際上,國科會已在7月發布該指引草案。據悉,在公告後,有進行文字上微調;同時研議針對封閉式落地運算的生成式AI的使用加以規範,也就是明定公務員不能連外網的AI。一旦31日行政院會拍板,該指引有望在年底上路。

根據先前公告的草案,明訂生成式AI產出資訊,仍需業務承辦人就其風險進行客觀且專業的最終判斷,不得取代業務承辦人自主思維、創造力及人際互動。

再來,製作機密文書應由業務承辦人親自撰寫,禁止使用生成式AI。所謂機密文書,為行政院「文書處理手冊」所定的國家機密文書及一般公務機密文書。

草案也明訂,公務機關業務承辦人不得向生成式AI提供涉及公務應保密、個人及未經機關同意公開的資料,也不得向生成式AI詢問可能涉及機密業務的問題,或運用生成式AI蒐集、處理個資。

另各機關不可完全信任生成式AI產出的資訊,亦不得以未經確認的產出內容,直接作成行政行為、或作為公務決策的唯一依據。各機關使用生成式AI作為執行業務或提供服務輔助工具時,也應適當揭露。

草案提到,使用生成式AI應遵守資通安全、個人資料保護、著作權與相關資訊使用規定,並注意其侵害智慧財產權與人格權的可能性。各機關得依使用生成式AI的設備及業務性質,訂定使用規範或內控管理措施。

並提醒各機關應就所辦採購事項,要求得標的法人、團體或個人注意這一參考指引,並遵守各該機關所訂定的規範或內控管理措施。

而公營事業機構、公立學校、行政法人及政府捐助的財團法人使用生成式AI,得準用此參考指引;行政院及所屬機關以外的其他機關,得參照參考指引,另訂各該機關使用生成式AI規範。

#AI #生成式AI.國科會