谷歌今天推出了TensorFlowRuntime(TFRT)，这是其TensorFlow机器学习框架的新运行时。它提供了一个统一和可扩展的基础设施层，并在各种硬件上具有高性能。它作为开源软件在GitHub上发布，并在今年早些时候的2020TensorFlowDevSummit会议上预览，这表明TFRT可以在关键的基准测试中加速核心周期。
谷歌表示，TFRT旨在满足寻求更快模型迭代时间和更好错误报告的数据科学家的需求，以及旨在培训和服务生产模型同时提高性能的应用程序开发人员的需求。实际上，TFRT可以减少开发、验证和部署企业级模型所需的时间。调查显示，模型的范围可能从几周到几个月(或几年)不等。它可能会击败被脸书入侵的PyTorch框架，该框架继续在OpenAI、PreferredNetworks和优步等公司中快速传播。
TFRT在目标硬件设备上执行内核(数学函数)。在这个开发阶段，TFRT调用一组调用底层硬件的内核，专注于低级效率。
与现有的TensorFlow运行时相比，该运行时是为执行图形(执行操作、常量和变量的图形)和训练工作负载而构建的，与TFRT相比，它针对推理和紧急执行进行了优化，其中操作是从Python脚本中调用的。TFRT利用了热切执行和图形执行的共同抽象；为了获得更好的性能，它的图执行器支持并发执行操作和异步API调用。
谷歌表示，在性能测试中，与TensorFlow当前的运行时间相比，TFRT将训练好的ResNet-50模型(一种流行的图像识别算法)的推理时间缩短了28%。TFRT产品经理和技术负责人洪明明在博客中写道：“这些早期成果是对的有力验证，我们希望它能大幅提升性能。”“高性能低级别运行时是实现今天趋势、实现明天创新的关键.……TFRT将使广大用户受益。”
目前对TFRTTFRTGitHub资源库的贡献有限，TensorFlow的稳定版还没有提供TFRT。然而，谷歌表示，它将很快通过选择添加徽标来实现，并最终替换现有的运行时。
免责声明：本文由用户上传，如有侵权请联系删除！
