保持Dockerfile整洁的5个技巧

具体来说，PerFit 中的协作学习过程主要包括以下三个阶段，如图 6 中所述：

卸载阶段（Offloading stage）。当边缘设备是可信的（例如，家中的边缘网关），物联网设备用户可以将其整个学习模型和数据样本卸载到边缘设备中以进行快速计算。否则，设备用户将通过将输入层及其数据样本本地保存在其设备上并将剩余的模型层卸载到边缘设备中以进行设备边缘协作计算来执行模型划分。

学习阶段（Learning stage）。边缘设备根据个人数据样本协同计算本地模型，然后将本地模型信息传输到云服务器。云服务器将各个边缘设备所提交的本地模型信息聚合起来，并将它们平均化为一个全局模型，然后发送回各个边缘设备中。这样的模型信息交换过程不断重复，直到经过一定次数的迭代后收敛为止。因此，可以实现一个高质量的全局模型，然后传输到边缘设备以进行进一步的个性化设置。

个性化阶段（Personalization stage）。为了捕捉特定的个人特征和需求，每个边缘设备都基于全局模型信息和自身的个人信息（即本地数据）训练一个个性化模型。这一阶段的具体学习操作取决于采用的个性化联邦学习机制。例如，迁移学习、多任务学习、元学习、知识蒸馏、混合模型等。

进一步，在边缘设备上进行本地模型聚合，也有助于避免大量设备通过昂贵的主干网带宽与云服务器直接通信，从而降低通信开销。通过执行个性化处理，可以在一些资源有限的设备上部署轻量级的个性化模型（例如，通过模型修剪或传输学习）。这将有助于减轻设备在通信和计算资源方面的异构性。此外，也可以很好的支持统计异构性和模型异构性，因为该框架可以根据不同边缘设备的本地数据特性、应用程序需求和部署环境利用个性化的模型和机制。

PerFit 通过在边缘设备和云服务器之间交换不同类型的模型信息，能够灵活地集成多种个性化的联邦学习方法，包括我们在这篇文章中分析的两种个性化联邦学习方法。通过解决复杂物联网环境中固有的异构性问题并在默认情况下确保用户隐私，PerFit 可以成为大规模实际部署的理想选择。

3.2 个性化联邦学习机制

作者在文章中回顾并简述了几个个性化联合学习机制，这些机制可以与 PerFit 框架集成用于智能物联网应用程序。文中重点分析了以下几种类型：联邦迁移学习，联邦元学习，联邦多任务学习、联邦蒸馏和数据增强。

3.2.1 联邦迁移学习

联邦迁移学习的基本思想是将全局共享模型迁移到分布式物联网设备上（客户端设备），通过针对各个物联网设备实现个性化处理，以减轻联邦学习中固有的数据异构性问题（Non-IID 数据分布）。考虑到深度神经网络的结构和通信过载问题，通过联邦转移学习实现个性化的方法主要有两种。具体可见图 7。
 

目前没有已知的技术可以在不进行微调的情况下，在数据集上进行训练，并在其他数据集上运行良好。你必须针对每台机器/每家医院建立数据集，以获得有用的结果。度量标准合理，这个领域就解决了。实际上，这连开始都难。

最重要的是，算法无法为他们的答案提供帮助。站在医生的角度想想：你会因为机器是这样显示的，就告诉患者他们得了癌症吗?你不会，你会再次查看这些图像。

如果人们不信任人工智能，那么就永远不会使用它。

到目前为止，已发表的论文的主要评判标准是AUC评分。它告诉你该算法对乳房x光片的良恶性分类有多合理，不会告诉你它对其他数据集有多稳健，或者所有都是可解释的。换句话说，它从不回答“它有用吗”这类问题。

发展人工智能没有正确的道路，但肯定有非常错误的道路。花不了太多的时间，你就能发现大多数文献有多不适用，以及真正紧迫的问题是如何堂而皇之的被人们忽视了。

正如我在开头所说的，这篇文章并不要指责当前的研究不好，而是说问题的关键在于当前学术界和现实世界之间脱节——我们过于狭隘地关注准确性。

发展人工智能不是为了纸上谈兵，推动社会发展是真正重要的事，我们希望通过改善人工智能来实现这一点。但只有当我们正视现实的社会问题时，我们才能正确地做到这一点。社会的问题远比精确的目标检测更复杂

（编辑：宜春站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!