
微軟開源深度學(xué)習(xí)優(yōu)化庫DeepSpeed 可訓(xùn)練1000億參數(shù)的模型
人工智能的最新趨勢(shì)是,更大的自然語言模型可以提供更好的準(zhǔn)確性,但是由于成本、時(shí)間和代碼集成的障礙,較大的模型難以訓(xùn)練。微軟日前開源了一個(gè)深度學(xué)習(xí)優(yōu)化庫 DeepSpeed,通過提高規(guī)模、速度、可用性并降低成本,可以在當(dāng)前一代的 G...
人工智能的最新趨勢(shì)是,更大的自然語言模型可以提供更好的準(zhǔn)確性,但是由于成本、時(shí)間和代碼集成的障礙,較大的模型難以訓(xùn)練。微軟日前開源了一個(gè)深度學(xué)習(xí)優(yōu)化庫 DeepSpeed,通過提高規(guī)模、速度、可用性并降低成本,可以在當(dāng)前一代的 G...