scaling-laws

スケーリング則

スケーリング則

計算資源、データ量、モデルサイズの3要素を拡大させることで、AIの性能が予測可能な形で向上するという経験則。物量の投入が単なる統計的な次単語予測を超え、世界の構造を抽象化・理解する知性に繋がるという工学的アプローチを指す。圧倒的な物量により個別のデータの偏り(認識論的汚染エピステミック・バブル)を統計的に希釈できるという期待がある一方、人間がその結果に認知的降伏し、判断する能力を外部化するリスクも内包する。