Можно заставить kernel затребовать большое количество памяти.
vulners.com/securityvulns/securityvulns:doc:1870
vulners.com/securityvulns/securityvulns:doc:2009