生成式AI智慧化應用

工研院創新前瞻技術研究計畫

以三種難易問題共30題進行評估，使用簡短Prompt只生成一個答案，ITRI RTL GAI (34B)的生成正確率為66.7%，優於Meta AI Code Llama (34B)的40%及NYU VGen (16B)的26.7%，接近ChatGPT-4的73.3%

雛型

發展晶片設計程式碼生成技術，提升研發效率以彌補人力缺口，維持臺灣IC設計產業競爭力。

晶片設計領域

34B模型訓練微調需具有8張RTX A6000等級之GPU Server，並配備1TB系統DRAM，作業系統為Ubuntu 20.04

具有軟體操作、Python及生成式AI等基本概念

(1)多樣化配對資料庫生成模組：解決領域應用缺乏大量配對資料難題。 (2)粗細指令微調技術：加強對簡短Prompts理解能力，提高生成代碼的正確性。 (3)超參數自動化搜尋系統：解決模型佈署時超參數過多難以選取問題。

(1) Diversified paired-data generation system: generates diversified paired data for supervised finetuning to improve RTL GenAI's code-generation performance. (2) Coarse-to-fine instruction tuning technique: boosts GenAI's understanding of brief prompts to enhance the accuracy of generated RTL code. (3) AutoML HPO: finds optimal hyperparameters for model deployment, making industrial GenAI application more accessible.