TensorFlow 分布式训练

TensorFlow 分布式训练

https://tf.wiki/zh/appendix/distributed.html

请问如果不使用 model.compile () 和 model.fit () 而是手动进行模型训练(实现 tf.keras.model,使用 apply_gradients)该如何使用分布式训练方式?

可以参考 Distributed training with TensorFlow  |  TensorFlow Core 里的 Using tf.distribute.Strategy with custom training loops

非常感谢!

雪麟老师您好,tensorflow2.0 基础部分已经看完了,感谢您提供这么清晰实用的教程~ 下一步想做一些实际项目的工程实践,想咨询一下您有合适的资料推荐吗?~ 非常感谢 :slight_smile:

我在 https://tf.wiki/zh_hans/appendix/recommended_books.html 中列举了一些我认为不错的资料可参考。关于实践,如果侧重模型开发构建,建议尝试去复现一些经典论文中的算法。如果侧重部署,则建议自己尝试去开发一个小型的,用到人工智能技术的项目(例如 app 之类的)。具体的项目需要结合你自身的研究方向或者工程背景(技术栈),我觉得和你自身背景越贴切越好。