<div dir="ltr">I worked at a fairly large company (as far as servers go) writing data to rrd files.  Long story short, rrd probably isn't the system you want to be using for storing the data.  As you've seen, it has very high IO requirements.  Moving the data from rrd to other systems (happy to elaborate more directly, not on the mailing list) saved us a ton of resources, let us grow the monitoring cluster significantly, and drastically increased the fidelity of data.  I would recommend looking into some of the other time series databases out there.  Many of them will support 400+ clients very easily.<div><br></div><div>Brandon</div></div><br><div class="gmail_quote"><div dir="ltr">On Mon, Dec 24, 2018 at 11:27 AM George <<a href="mailto:izghitu@gmail.com">izghitu@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div>Hi,</div><div><br></div><div>Thanks a lot for your suggestions. It decreased the load a lot. I also followed some suggestions from here:</div><div><a href="https://oss.oetiker.ch/rrdtool-trac/wiki/TuningRRD" target="_blank">https://oss.oetiker.ch/rrdtool-trac/wiki/TuningRRD</a></div><div><a href="https://collectd.org/wiki/index.php/Inside_the_RRDtool_plugin" target="_blank">https://collectd.org/wiki/index.php/Inside_the_RRDtool_plugin</a></div><div><br></div><div>Merry Christmas to you too!<br></div><br><div class="gmail_quote"><div dir="ltr">În lun., 24 dec. 2018 la 18:14, Tasslehoff Burrfoot <<a href="mailto:tasslehoff@burrfoot.it" target="_blank">tasslehoff@burrfoot.it</a>> a scris:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div>My suggestion is to check very carefully which plugins are really necessary on the clients to reduce the amount of data, for example the plugin to check storage devices will generate a lot of data if you use lvm (you'll get physical devices + device mapping devices).</div><div>When you made some clean up you can drastically reduce the I/O load using CacheTimeout and CacheFlush options of rrdtool plugin on the host which receive all the data, this will make your collectd server to flush rrd on the storage less frequently and reduce the load on the storage devices.</div><div>I hope this will help.<br></div><div><br></div><div>Merry Christmas :)</div><div><br></div><div>Tasslehoff Burrfoot</div><br></div></div></div></div></blockquote></div></div></div></div>
_______________________________________________<br>
collectd mailing list<br>
<a href="mailto:collectd@verplant.org" target="_blank">collectd@verplant.org</a><br>
<a href="https://mailman.verplant.org/listinfo/collectd" rel="noreferrer" target="_blank">https://mailman.verplant.org/listinfo/collectd</a></blockquote></div>