2021-11-17 18:58:35 +08:00
|
|
|
|
mindspore.dataset.DatasetCache
|
|
|
|
|
|
==============================
|
|
|
|
|
|
|
|
|
|
|
|
.. py:class:: mindspore.dataset.DatasetCache(session_id, size=0, spilling=False, hostname=None, port=None, num_connections=None, prefetch_size=None)
|
|
|
|
|
|
|
|
|
|
|
|
创建数据缓存客户端实例。
|
|
|
|
|
|
|
2021-12-30 14:38:24 +08:00
|
|
|
|
关于单节点数据缓存的使用，请参阅 `单节点数据缓存教程 <https://www.mindspore.cn/docs/programming_guide/zh-CN/master/enable_cache.html>`_ 、
|
|
|
|
|
|
`单节点数据缓存编程指南 <https://www.mindspore.cn/docs/programming_guide/zh-CN/master/cache.html>`_。
|
2021-11-17 18:58:35 +08:00
|
|
|
|
|
|
|
|
|
|
**参数：**
|
|
|
|
|
|
|
2021-12-04 20:36:47 +08:00
|
|
|
|
- **session_id** (int) - 当前数据缓存客户端的会话ID，用户在命令行开启缓存服务端后可通过 `cache_admin -g` 获取。
|
2021-12-30 14:38:24 +08:00
|
|
|
|
- **size** (int, optional) - 设置数据缓存服务可用的内存大小。默认值：0，表示内存使用没有限制。
|
|
|
|
|
|
- **spilling** (bool, optional) - 如果共享内存不足，是否将溢出部分缓存到磁盘。默认值：False。
|
|
|
|
|
|
- **hostname** (str, optional) - 数据缓存服务客户端的主机IP。默认值：None，表示使用默认主机IP 127.0.0.1。
|
|
|
|
|
|
- **port** (int, optional) - 指定连接到数据缓存服务端的端口号。默认值：None，表示端口为50052。
|
|
|
|
|
|
- **num_connections** (int, optional) - TCP/IP连接数量。默认值：None，表示连接数量为12。
|
|
|
|
|
|
- **prefetch_size** (int, optional) - 指定缓存队列大小，使用缓存功能算子时，将直接从缓存队列中获取数据。默认值：None，表示缓存队列大小为20。
|
2021-11-17 18:58:35 +08:00
|
|
|
|
|
|
|
|
|
|
**样例：**
|
|
|
|
|
|
|
2021-11-25 16:44:52 +08:00
|
|
|
|
>>> import mindspore.dataset as ds
|
|
|
|
|
|
>>>
|
|
|
|
|
|
>>> # 创建数据缓存客户端实例，其中 `session_id` 由命令 `cache_admin -g` 生成
|
|
|
|
|
|
>>> some_cache = ds.DatasetCache(session_id=session_id, size=0)
|
|
|
|
|
|
>>>
|
|
|
|
|
|
>>> dataset_dir = "path/to/imagefolder_directory"
|
|
|
|
|
|
>>> ds1 = ds.ImageFolderDataset(dataset_dir, cache=some_cache)
|
2021-11-17 18:58:35 +08:00
|
|
|
|
|
|
|
|
|
|
.. py:method:: get_stat()
|
|
|
|
|
|
|
2021-12-30 14:38:24 +08:00
|
|
|
|
获取缓存实例的统计信息。在数据管道结束后，可获取三类统计信息，包括平均缓存命中数（avg_cache_sz），内存中的缓存数（num_mem_cached）和磁盘中的缓存数（num_disk_cached）。
|
|
|
|
|
|
|
|
|
|
|
|
**样例：**
|
|
|
|
|
|
|
|
|
|
|
|
>>> import mindspore.dataset as ds
|
|
|
|
|
|
>>>
|
|
|
|
|
|
>>> # 创建数据缓存客户端实例，其中 `session_id` 由命令 `cache_admin -g` 生成
|
|
|
|
|
|
>>> some_cache = ds.DatasetCache(session_id=session_id, size=0)
|
|
|
|
|
|
>>>
|
|
|
|
|
|
>>> dataset_dir = "path/to/imagefolder_directory"
|
|
|
|
|
|
>>> ds1 = ds.ImageFolderDataset(dataset_dir, cache=some_cache)
|
|
|
|
|
|
>>> for _ in ds1.create_dict_iterator(num_epochs=1):
|
|
|
|
|
|
... pass
|
|
|
|
|
|
>>> # 数据管道执行结束之后，才能获取cache的统计信息
|
|
|
|
|
|
>>> stat = some_cache.get_stat()
|
|
|
|
|
|
>>> # 获取平均缓存命中数（avg_cache_sz）
|
|
|
|
|
|
>>> cache_sz = stat.avg_cache_sz
|
|
|
|
|
|
>>> # 获取内存中的缓存数（num_mem_cached）
|
|
|
|
|
|
>>> num_mem_cached = stat.num_mem_cached
|
|
|
|
|
|
>>> # 获取磁盘中的缓存数（num_disk_cached）
|
|
|
|
|
|
>>> num_dick_cached = stat.num_disk_cached
|
