前不久, 亚马逊针对工程师, 下达了一项要求, 要求他们把那些处于闲置状态的云计算机关闭掉。这件事情, 从表面上来看, 似乎挺简单的, 然而, 其背后所映射出的, 却是在AI热潮这一背景之下, 算力紧缺的一种真实的反映情况。

闲置实例问题严重

据数据表明，AWS存在大约65% 的EC2实例, 其在30天内, 平均CPU利用率处于低于20% 的状况。这所代表的含义是, 会有数量众多的服务器处于闲着未用的状态, 从而白白地耗费资源。

这些处于闲置状态的实例, 占用了数量众多的电力, 以及存储空间, 然而却并未产生丝毫实际价值, 对于企业来讲, 这同样属于成本浪费。

自动化工具升级

亚马逊对计算优化器发起了升级行动, 它能够针对14天之内的服务器CPU使用率以及IO数据展开自动分析, 系统会将那些峰值CPU利用率比15%要低、网络流量处于很低状态的虚拟机标记出来。

面对该工具, 工程师能够借助它对哪些实例得予以关闭或者作出调整进行迅速识别, 这一方式相较于人工排查而言更具高效性, 并且还能够减少遗漏情况的出现。

电力容量大幅增加

去年一年, AWS新增电力容量达3.8吉瓦, 此电量足供280万户家庭使用条件下, 算力需求却仍在迅猛增长。

只是电力扩容作为基础的存在, 而真正稀缺的, 是那搭载了GPU的云计算实例。这些搭载GPU的云计算实例才是训练大语言模型以及运行大语言模型的核心资源。

AI热潮推动需求

现今, AI热潮致使云计算市场竞争呈现白热化状态。各大厂商纷纷投身于争夺GPU资源之中, 进而造成了算力供应紧张的局面。

存在于企业之中的用户察觉到, 去获取充足的计算资源这件事正变得越发困难起来。而这样的状况也使得亚马逊着手从其内部开展对资源利用的优化工作。

成本控制压力

对于AWS而言, 将闲置实例予以关闭, 不但能够节约电力, 而且还可提升整体资源利用率。这既是一种对客户尽责的表现, 也是一种降低成本的方式。

要是企业用户长时间并未将闲置实例予以关闭, 同样会碰到账单方面的压力, 优化资源配置已然变成行业共同认可的观念。

伴随AI应用持续地扩展延伸, 算力紧缺的状况或许还会进一步加剧恶化。云服务商所需的是持续不断地去均衡资源分配同时兼顾成本控制。

清理闲置实例的习惯, 用户应该养成定期的, 这不仅能够省钱, 还能够为整个行业节省宝贵资源。

那些身为企业用户的人们, 你臆测要怎样才能够更优质有效地去对自身所拥有的云资源进行管理? 热烈欢迎到评论区域那儿去奉献一下属于你的看法, 不要忘掉了去对这篇文章执行点赞以及转发的操作！