Создание утечки памяти с Java
У меня только что было интервью, и меня попросили создать утечку памяти с помощью Java. Излишне говорить, что я чувствовал себя довольно глупо, не имея ни малейшего понятия о том, как его начать.
Каким будет пример?
63 ответа
Вот хороший способ создать настоящую утечку памяти (объекты недоступны при выполнении кода, но все еще хранятся в памяти) в чистой Java:
- Приложение создает долго работающий поток (или использует пул потоков, чтобы утечка еще быстрее).
- Поток загружает класс через (необязательно) ClassLoader.
- Класс выделяет большой кусок памяти (например,
new byte[1000000]), сохраняет сильную ссылку на него в статическом поле, а затем сохраняет ссылку на себя в ThreadLocal. Выделение дополнительной памяти необязательно (достаточно утечки экземпляра класса), но это сделает утечку работать намного быстрее. - Поток очищает все ссылки на пользовательский класс или ClassLoader, из которого он был загружен.
- Повторение.
Это работает, потому что ThreadLocal сохраняет ссылку на объект, который сохраняет ссылку на его класс, который, в свою очередь, сохраняет ссылку на его ClassLoader. ClassLoader, в свою очередь, сохраняет ссылку на все загруженные классы.
(Это было хуже во многих реализациях JVM, особенно до Java 7, потому что Classes и ClassLoaders были выделены прямо в permgen и никогда не были GC'ами вообще. Однако, независимо от того, как JVM обрабатывает выгрузку классов, ThreadLocal все равно будет предотвращать Объект класса от восстановления.)
Разновидность этого шаблона заключается в том, что контейнеры приложений (например, Tomcat) могут пропускать память как сито, если вы часто повторно развертываете приложения, которые каким-либо образом используют ThreadLocals. (Поскольку контейнер приложения использует потоки, как описано, и каждый раз, когда вы повторно развертываете приложение, используется новый ClassLoader.)
Обновление: так как многие люди продолжают просить об этом, вот несколько примеров кода, которые показывают это поведение в действии.
Статическое поле, содержащее ссылку на объект [esp final field]
class MemorableClass {
static final ArrayList list = new ArrayList(100);
}
призваниеString.intern()на длинной строке
String str=readString(); // read lengthy string any source db,textbox/jsp etc..
// This will place the string in memory pool from which you can't remove
str.intern();
(Незакрытые) открытые потоки (файл, сеть и т. Д.)
try {
BufferedReader br = new BufferedReader(new FileReader(inputFile));
...
...
} catch (Exception e) {
e.printStacktrace();
}
Незакрытые соединения
try {
Connection conn = ConnectionFactory.getConnection();
...
...
} catch (Exception e) {
e.printStacktrace();
}
Области, недоступные из сборщика мусора JVM, такие как память, выделенная нативными методами
В веб-приложениях некоторые объекты хранятся в области приложения до тех пор, пока приложение не будет явно остановлено или удалено.
getServletContext().setAttribute("SOME_MAP", map);
Неправильные или неподходящие параметры JVM, такие как noclassgc опция в IBM JDK, которая предотвращает неиспользуемую сборку мусора классов
Смотрите настройки IBM jdk.
Простая вещь, которую нужно сделать, это использовать HashSet с неверным (или не существующим) hashCode() или же equals()и затем продолжайте добавлять "дубликаты". Вместо того, чтобы игнорировать дубликаты, как следует, набор будет только расти, и вы не сможете их удалить.
Если вы хотите, чтобы эти плохие ключи / элементы зависали, вы можете использовать статическое поле, например
class BadKey {
// no hashCode or equals();
public final String key;
public BadKey(String key) { this.key = key; }
}
Map map = System.getProperties();
map.put(new BadKey("key"), "value"); // Memory leak even if your threads die.
Ниже будет неочевидный случай утечки Java, кроме стандартного случая забытых слушателей, статических ссылок, поддельных / изменяемых ключей в хэш-картах или просто застрявших потоков без какой-либо возможности завершить свой жизненный цикл.
File.deleteOnExit()- всегда протекает строка,если строка является подстрокой, утечка еще хуже (основной символ [] также просочился)- в Java 7 подстрока также копируетchar[]так что последнее не относится; @ Даниэль, не нужно для голосования, хотя.
Я сконцентрируюсь на потоках, чтобы показать опасность, в основном, неуправляемых потоков, не желая даже касаться свинга
Runtime.addShutdownHookи не удаляют... и затем даже с removeShutdownHook из-за ошибки в классе ThreadGroup относительно незапущенных потоков, которые могут не собираться, эффективно утечка ThreadGroup. У JGroup есть утечка в GossipRouter.Создание, но не запуск
Threadвходит в ту же категорию, что и выше.Создание потока наследует
ContextClassLoaderа такжеAccessControlContextплюсThreadGroupи любойInheritedThreadLocalвсе эти ссылки являются потенциальными утечками, вместе со всеми классами, загруженными загрузчиком классов, и со всеми статическими ссылками, а также ja-ja. Эффект особенно заметен со всей структурой jucExecutor, которая имеет супер простойThreadFactoryинтерфейс, но большинство разработчиков не имеют ни малейшего представления о скрытой опасности. Кроме того, многие библиотеки запускают потоки по запросу (слишком много популярных в отрасли библиотек).ThreadLocalкэши; это зло во многих случаях. Я уверен, что все видели довольно много простых кешей, основанных на ThreadLocal, что является плохой новостью: если поток продолжает работать быстрее, чем ожидалось, в контексте ClassLoader, это просто приятная утечка. Не используйте кэши ThreadLocal, если они действительно не нужны.призвание
ThreadGroup.destroy()когда ThreadGroup сама не имеет потоков, но все равно сохраняет дочерние группы ThreadGroup. Серьезная утечка, которая не позволит ThreadGroup удалить из своего родителя, но все дочерние элементы станут не перечисляемыми.Использование WeakHashMap и значение (in) напрямую ссылаются на ключ. Это трудно найти без дампа кучи. Это относится ко всем расширенным
Weak/SoftReferenceэто может сохранить жесткую ссылку на охраняемый объект.С помощью
java.net.URLс протоколом HTTP(S) и загрузкой ресурса из (!). Этот особенный,KeepAliveCacheсоздает новый поток в системе ThreadGroup, который пропускает загрузчик классов контекста текущего потока. Поток создается по первому запросу, когда живого потока не существует, так что вы можете стать счастливчиком или просто пропустить. Утечка уже исправлена в Java 7, и код, который создает поток, правильно удаляет загрузчик классов контекста. Есть еще несколько случаев (как ImageFetcherТакже исправлено) создания похожих тем.С помощью
InflaterInputStreamпрохождениеnew java.util.zip.Inflater()в конструкторе (PNGImageDecoderнапример) и не звонитьend()инфлятора Хорошо, если вы передадите в конструктор простоnew, нет шансов... И да, звонитclose()в потоке не закрывает инфлятор, если он вручную передается как параметр конструктора. Это не настоящая утечка, поскольку она будет выпущена финализатором... когда он сочтет это необходимым. До того момента он так сильно ест внутреннюю память, что может заставить Linux oom_killer безнаказанно убивать процесс. Основная проблема заключается в том, что финализация в Java очень ненадежна, и G1 ухудшил ее до 7.0.2. Мораль истории: освободите родные ресурсы как можно скорее; финализатор слишком беден.Тот же случай с
java.util.zip.Deflater, Это гораздо хуже, так как Deflater требует много памяти в Java, то есть всегда использует 15 бит (максимум) и 8 уровней памяти (9 максимум), выделяя несколько сотен килобайт собственной памяти. К счастью,Deflaterшироко не используется, и, насколько мне известно, JDK не содержит злоупотреблений. Всегда звониend()если вы вручную создаетеDeflaterили жеInflater, Лучшая часть последних двух: вы не можете найти их с помощью обычных инструментов профилирования.
(Я могу добавить еще несколько потерь времени, с которыми я столкнулся по запросу.)
Удачи и будьте в безопасности; утечки - это зло!
Большинство примеров здесь "слишком сложны". Это крайние случаи. В этих примерах программист допустил ошибку (например, не переопределяет equals / hashcode) или был укушен угловым случаем JVM/JAVA (загрузка класса со статическим...). Я думаю, что это не тот пример, который хочет интервьюер, или даже самый распространенный случай.
Но есть действительно более простые случаи утечки памяти. Сборщик мусора освобождает только то, на что больше нет ссылок. Мы, как разработчики Java, не заботимся о памяти. Мы распределяем его по мере необходимости и позволяем автоматически его освобождать. Хорошо.
Но любое долгоживущее приложение, как правило, имеет общее состояние. Это может быть что угодно, статика, синглтоны... Часто нетривиальные приложения имеют тенденцию составлять графы сложных объектов. Достаточно просто забыть установить ссылку на нуль или чаще забыть удалить один объект из коллекции, чтобы вызвать утечку памяти.
Конечно, всевозможные слушатели (например, слушатели пользовательского интерфейса), кеши или любое долгоживущее общее состояние имеют тенденцию вызывать утечку памяти, если не обрабатываются должным образом. Следует понимать, что это не случай Java или проблема с сборщиком мусора. Это проблема дизайна. Мы проектируем, что мы добавляем слушателя к долгоживущему объекту, но мы не удаляем слушателя, когда он больше не нужен. Мы кешируем объекты, но у нас нет стратегии их удаления из кеша.
Возможно, у нас есть сложный граф, в котором хранится предыдущее состояние, необходимое для вычислений. Но предыдущее состояние само по себе связано с состоянием до и так далее.
Как мы должны закрыть соединения или файлы SQL. Нам нужно установить правильные ссылки на нуль и удалить элементы из коллекции. У нас будут правильные стратегии кэширования (максимальный объем памяти, количество элементов или таймеры). Все объекты, позволяющие уведомлять слушателя, должны предоставлять метод addListener и removeListener. И когда эти уведомители больше не используются, они должны очистить свой список слушателей.
Утечка памяти действительно возможна и вполне предсказуема. Нет необходимости в специальных языковых функциях или угловых случаях. Утечки памяти - это либо показатель того, что чего-то не хватает, либо даже проблемы с дизайном.
Ответ полностью зависит от того, что, по мнению интервьюера, они спрашивают.
Возможно ли на практике сделать утечку Java? Конечно, и в других ответах есть множество примеров.
Но есть несколько мета-вопросов, которые, возможно, задавались?
- Является ли теоретически "совершенная" реализация Java уязвимой для утечек?
- Понимает ли кандидат разницу между теорией и реальностью?
- Понимает ли кандидат, как работает сборка мусора?
- Или как сборка мусора должна работать в идеальном случае?
- Они знают, что могут вызывать другие языки через нативный интерфейс?
- Они знают об утечке памяти на этих других языках?
- Знает ли кандидат даже, что такое управление памятью и что происходит за кулисами в Java?
Я читаю ваш мета-вопрос как "Какой ответ я мог бы использовать в этой ситуации интервью". И, следовательно, я собираюсь сосредоточиться на навыках интервью, а не на Java. Я полагаю, что вы, скорее всего, будете повторять ситуацию, когда не знаете ответа на вопрос в интервью, чем вам нужно знать, как вызвать утечку Java. Так что, надеюсь, это поможет.
Одним из наиболее важных навыков, которые вы можете развить для интервьюирования, является умение активно выслушивать вопросы и работа с интервьюером для извлечения их намерений. Это не только позволяет вам ответить на их вопрос так, как они хотят, но также показывает, что у вас есть некоторые жизненно важные навыки общения. И когда дело доходит до выбора между многими одинаково талантливыми разработчиками, я найму того, кто слушает, думает и понимает, прежде чем отвечать каждый раз.
Ниже приведен довольно бессмысленный пример, если вы не понимаете JDBC. Или, по крайней мере, как JDBC ожидает, что разработчик закроет Connection, Statement а также ResultSet случаи, прежде чем отказаться от них или потерять ссылки на них, вместо того, чтобы полагаться на реализацию finalize,
void doWork()
{
try
{
Connection conn = ConnectionFactory.getConnection();
PreparedStatement stmt = conn.preparedStatement("some query"); // executes a valid query
ResultSet rs = stmt.executeQuery();
while(rs.hasNext())
{
... process the result set
}
}
catch(SQLException sqlEx)
{
log(sqlEx);
}
}
Проблема с вышесказанным заключается в том, что Connection объект не закрыт, и, следовательно, физическое соединение будет оставаться открытым, пока сборщик мусора не придет и не обнаружит, что он недоступен. GC будет ссылаться на finalize метод, но есть драйверы JDBC, которые не реализуют finalizeпо крайней мере, не так, как Connection.close реализовано. В результате получается, что в то время как память будет восстановлена из-за недоступности объектов, которые собираются, ресурсы (включая память), связанные с Connection объект может просто не быть возвращен.
В таком случае, когда Connection"s finalize Метод не очищает все, на самом деле можно обнаружить, что физическое соединение с сервером базы данных будет длиться несколько циклов сбора мусора, пока сервер базы данных не обнаружит, что соединение не является активным (если оно существует) и должно быть закрыто.
Даже если драйвер JDBC должен был реализовать finalize, исключения могут быть выброшены во время финализации. В результате получается, что любая память, связанная с теперь "неактивным" объектом, не будет возвращена, так как finalize гарантированно вызывается только один раз.
Приведенный выше сценарий возникновения исключений во время завершения объекта связан с другим другим сценарием, который может привести к утечке памяти - воскрешению объекта. Воскресение объекта часто делается намеренно путем создания сильной ссылки на объект из финализируемого объекта. При неправильном использовании воскресения объекта это приведет к утечке памяти в сочетании с другими источниками утечек памяти.
Есть еще много примеров, которые вы можете придумать - как
- Управление
Listслучай, когда вы только добавляете в список, а не удаляете из него (хотя вы должны избавляться от элементов, которые вам больше не нужны), или - открытие
Socketс илиFiles, но не закрывая их, когда они больше не нужны (аналогично приведенному выше примеру сConnectionучебный класс). - Не выгружать Singletons при закрытии приложения Java EE. По-видимому, загрузчик классов, который загрузил класс singleton, сохранит ссылку на класс, и, следовательно, экземпляр singleton никогда не будет собран. При развертывании нового экземпляра приложения обычно создается новый загрузчик классов, а прежний загрузчик классов будет продолжать существовать благодаря одиночному.
Вероятно, одним из простейших примеров потенциальной утечки памяти и того, как ее избежать, является реализация ArrayList.remove(int):
public E remove(int index) {
RangeCheck(index);
modCount++;
E oldValue = (E) elementData[index];
int numMoved = size - index - 1;
if (numMoved > 0)
System.arraycopy(elementData, index + 1, elementData, index,
numMoved);
elementData[--size] = null; // (!) Let gc do its work
return oldValue;
}
Если бы вы реализовывали это самостоятельно, вы бы подумали очистить элемент массива, который больше не используется (elementData[--size] = null)? Эта ссылка может поддержать огромный объект...
Каждый раз, когда вы храните ссылки на объекты, которые вам больше не нужны, у вас возникает утечка памяти. Посмотрите Обработка утечек памяти в программах Java для примеров того, как утечки памяти проявляются в Java и что вы можете с этим поделать.
Вы можете сделать утечку памяти с классом sun.misc.Unsafe. Фактически этот класс обслуживания используется в различных стандартных классах (например, в классах java.nio). Вы не можете создать экземпляр этого класса напрямую, но вы можете использовать отражение для этого.
Код не компилируется в Eclipse IDE - скомпилируйте его с помощью команды javac (во время компиляции вы получите предупреждения)
import java.lang.reflect.Constructor;
import java.lang.reflect.Field;
import sun.misc.Unsafe;
public class TestUnsafe {
public static void main(String[] args) throws Exception{
Class unsafeClass = Class.forName("sun.misc.Unsafe");
Field f = unsafeClass.getDeclaredField("theUnsafe");
f.setAccessible(true);
Unsafe unsafe = (Unsafe) f.get(null);
System.out.print("4..3..2..1...");
try
{
for(;;)
unsafe.allocateMemory(1024*1024);
} catch(Error e) {
System.out.println("Boom :)");
e.printStackTrace();
}
}
}
Я могу скопировать мой ответ отсюда: Самый простой способ вызвать утечку памяти в Java?
"Утечка памяти в информатике (или утечка в этом контексте) происходит, когда компьютерная программа использует память, но не может вернуть ее обратно в операционную систему". (Википедия)
Простой ответ: вы не можете. Java выполняет автоматическое управление памятью и освобождает ресурсы, которые вам не нужны. Вы не можете остановить это. Он ВСЕГДА сможет освободить ресурсы. В программах с ручным управлением памятью это отличается. Вы не можете получить немного памяти в C, используя malloc(). Чтобы освободить память, вам нужен указатель, который возвратил malloc, и вызовите free() для него. Но если у вас больше нет указателя (перезаписано или превышено время жизни), то, к сожалению, вы не сможете освободить эту память и, следовательно, у вас будет утечка памяти.
Все остальные ответы, по моему мнению, на самом деле не утечки памяти. Все они стремятся заполнить память бессмысленными вещами очень быстро. Но в любой момент вы все равно можете разыменовать созданные вами объекты и, таким образом, освободить память -> НЕТ УТЕЧКИ. Ответ acconrad довольно близок, хотя, как я должен признать, его решение состоит в том, чтобы просто "сбить" сборщик мусора, запустив его в бесконечный цикл).
Длинный ответ: вы можете получить утечку памяти, написав библиотеку для Java с использованием JNI, которая может иметь ручное управление памятью и, таким образом, иметь утечки памяти. Если вы вызовете эту библиотеку, ваш процесс Java будет утечка памяти. Или вы можете иметь ошибки в JVM, так что JVM теряет память. Вероятно, есть ошибки в JVM, могут даже быть некоторые известные, так как сборка мусора не так уж тривиальна, но в то же время это все еще ошибка. По замыслу это невозможно. Вы можете попросить некоторый код Java, который вызван такой ошибкой. Извините, я не знаю ни одного, и в любом случае это может быть ошибкой в следующей версии Java.
Вот простой / зловещий через http://wiki.eclipse.org/Performance_Bloopers.
public class StringLeaker
{
private final String muchSmallerString;
public StringLeaker()
{
// Imagine the whole Declaration of Independence here
String veryLongString = "We hold these truths to be self-evident...";
// The substring here maintains a reference to the internal char[]
// representation of the original string.
this.muchSmallerString = veryLongString.substring(0, 1);
}
}
Поскольку подстрока относится к внутреннему представлению оригинала, гораздо более длинной строки, оригинал остается в памяти. Таким образом, до тех пор, пока в игре есть StringLeaker, в памяти также хранится вся исходная строка, даже если вы думаете, что просто держитесь за односимвольную строку.
Чтобы избежать нежелательной ссылки на исходную строку, нужно сделать что-то вроде этого:
...
this.muchSmallerString = new String(veryLongString.substring(0, 1));
...
Для дополнительной вредности вы также можете .intern() подстрока:
...
this.muchSmallerString = veryLongString.substring(0, 1).intern();
...
Это сохранит в памяти как оригинальную длинную строку, так и производную подстроку даже после того, как экземпляр StringLeaker был отброшен.
Типичным примером этого в коде графического интерфейса пользователя является создание виджета / компонента и добавление слушателя к некоторому статическому объекту / области приложения, а затем не удаление слушателя, когда виджет уничтожен. Вы получаете не только утечку памяти, но и снижение производительности, когда все, что вы слушаете, запускают события, также вызываются все ваши старые слушатели.
Возьмите любое веб-приложение, работающее в любом контейнере сервлетов (Tomcat, Jetty, Glassfish, что угодно...). Повторно развертывайте приложение 10 или 20 раз подряд (этого может быть достаточно, чтобы просто коснуться WAR в каталоге автоматического развертывания сервера.
Если никто не проверил это на самом деле, велика вероятность того, что вы получите OutOfMemoryError после нескольких перераспределений, потому что приложение не позаботилось о том, чтобы убирать после себя. В этом тесте вы даже можете найти ошибку на вашем сервере.
Проблема в том, что время жизни контейнера больше, чем время жизни вашего приложения. Вы должны убедиться, что все ссылки, которые контейнер может иметь на объекты или классы вашего приложения, могут быть собраны сборщиком мусора.
Если существует только одна ссылка, пережившая бездействие вашего веб-приложения, соответствующий загрузчик классов и, как следствие, все классы вашего веб-приложения не могут быть собраны сборщиком мусора.
Потоки, запущенные вашим приложением, переменные ThreadLocal, добавление журналов - это некоторые из тех, которые обычно вызывают утечку из загрузчика классов.
Может быть, используя внешний нативный код через JNI?
С чистой Java это практически невозможно.
Но это касается "стандартного" типа утечки памяти, когда вы больше не можете получить доступ к памяти, но она все еще принадлежит приложению. Вместо этого вы можете хранить ссылки на неиспользуемые объекты или открывать потоки, не закрывая их впоследствии.
Однажды у меня произошла приятная "утечка памяти", связанная с PermGen и анализом XML. Синтаксический анализатор XML, который мы использовали (я не помню, какой именно), сделал String.intern() для имен тегов, чтобы сделать сравнение быстрее. У одного из наших клиентов была прекрасная идея хранить значения данных не в XML-атрибутах или тексте, а в виде тэгов, поэтому у нас был такой документ:
<data>
<1>bla</1>
<2>foo</>
...
</data>
На самом деле они использовали не цифры, а более длинные текстовые идентификаторы (около 20 символов), которые были уникальными и приходили со скоростью 10–15 миллионов в день. Это составляет 200 МБ мусора в день, который больше никогда не понадобится и никогда не будет GCed (так как он в PermGen). Для permgen было установлено значение 512 МБ, поэтому потребовалось около двух дней, чтобы возникла исключительная ситуация нехватки памяти (OOME)...
Интервьюер, вероятно, искал циклическую ссылку, подобную приведенному ниже коду (которая, между прочим, приводит к утечке памяти только в очень старых JVM, которые использовали подсчет ссылок, что уже не так). Но это довольно расплывчатый вопрос, так что это отличная возможность продемонстрировать свое понимание управления памятью JVM.
class A {
B bRef;
}
class B {
A aRef;
}
public class Main {
public static void main(String args[]) {
A myA = new A();
B myB = new B();
myA.bRef = myB;
myB.aRef = myA;
myA=null;
myB=null;
/* at this point, there is no access to the myA and myB objects, */
/* even though both objects still have active references. */
} /* main */
}
Затем вы можете объяснить, что при подсчете ссылок вышеприведенный код приведет к утечке памяти. Но большинство современных JVM больше не используют подсчет ссылок, большинство используют сборщик мусора, который фактически собирает эту память.
Далее вы можете объяснить создание объекта, который имеет базовый собственный ресурс, например:
public class Main {
public static void main(String args[]) {
Socket s = new Socket(InetAddress.getByName("google.com"),80);
s=null;
/* at this point, because you didn't close the socket properly, */
/* you have a leak of a native descriptor, which uses memory. */
}
}
Затем вы можете объяснить, что это технически утечка памяти, но на самом деле она вызвана нативным кодом в JVM, выделяющим базовые нативные ресурсы, которые не были освобождены вашим Java-кодом.
В конце концов, с помощью современной JVM вам нужно написать некоторый код Java, который выделяет собственный ресурс за пределы обычного понимания JVM.
Что такое утечка памяти:
- Это вызвано ошибкой или плохим дизайном.
- Это пустая трата памяти.
- Со временем становится хуже.
- Сборщик мусора не может его почистить.
Типичный пример:
Кеш объектов - хорошая отправная точка, чтобы все испортить.
private static final Map<String, Info> myCache = new HashMap<>();
public void getInfo(String key)
{
// uses cache
Info info = myCache.get(key);
if (info != null) return info;
// if it's not in cache, then fetch it from the database
info = Database.fetch(key);
if (info == null) return null;
// and store it in the cache
myCache.put(key, info);
return info;
}
Ваш кеш растет и растет. И довольно скоро вся база данных засасывается в память. В лучшем дизайне используется LRUMap (только хранит недавно использованные объекты в кеше).
Конечно, вы можете сделать все намного сложнее:
- используя конструкции ThreadLocal.
- добавление более сложных справочных деревьев.
- или утечки, вызванные сторонними библиотеками.
Что часто бывает:
Если этот Info-объект имеет ссылки на другие объекты, у которых снова есть ссылки на другие объекты. В некотором смысле вы также можете считать это утечкой памяти (вызванной плохим дизайном).
Недавно я столкнулся с ситуацией утечки памяти, вызванной каким-то образом log4j.
Log4j имеет этот механизм, называемый Nested Diagnostic Context(NDC), который представляет собой инструмент для различения чередующихся выходных данных журнала из разных источников. Гранулярность, на которой работает NDC - это потоки, поэтому он различает выходные данные журнала из разных потоков по отдельности.
Чтобы хранить специфичные для потока теги, класс NDC в log4j использует Hashtable, ключ которого задается самим объектом Thread (в отличие от, скажем, идентификатора потока), и, таким образом, до тех пор, пока тег NDC не останется в памяти, все объекты, свисающие с потока Объект также остается в памяти. В нашем веб-приложении мы используем NDC для пометки выходов из системы с помощью идентификатора запроса, чтобы отдельно отличать журналы от одного запроса. Контейнер, который связывает тег NDC с потоком, также удаляет его при возврате ответа из запроса. Проблема возникла, когда во время обработки запроса порождался дочерний поток, что-то вроде следующего кода:
pubclic class RequestProcessor {
private static final Logger logger = Logger.getLogger(RequestProcessor.class);
public void doSomething() {
....
final List<String> hugeList = new ArrayList<String>(10000);
new Thread() {
public void run() {
logger.info("Child thread spawned")
for(String s:hugeList) {
....
}
}
}.start();
}
}
Таким образом, контекст NDC был связан со встроенным потоком, который был создан. Потоковый объект, который был ключом для этого контекста NDC, является встроенным потоком, в котором висит объект огромный список. Следовательно, даже после того, как поток завершил делать то, что делал, ссылка на огромный список поддерживалась контекстной таблицей NDC, что приводило к утечке памяти.
Я думал, что это было интересно, что никто не использовал примеры внутреннего класса. Если у вас есть внутренний класс; он по своей сути поддерживает ссылку на содержащий класс. Конечно, технически это не утечка памяти, потому что Java, в конечном счете, очистит ее; но это может заставить классы зависать дольше, чем ожидалось.
public class Example1 {
public Example2 getNewExample2() {
return this.new Example2();
}
public class Example2 {
public Example2() {}
}
}
Теперь, если вы вызовете Example1 и получите Example2, отбрасывающий Example1, у вас по-прежнему будет ссылка на объект Example1.
public class Referencer {
public static Example2 GetAnExample2() {
Example1 ex = new Example1();
return ex.getNewExample2();
}
public static void main(String[] args) {
Example2 ex = Referencer.GetAnExample2();
// As long as ex is reachable; Example1 will always remain in memory.
}
}
Я также слышал слух, что если у вас есть переменная, которая существует дольше определенного времени; Java предполагает, что он всегда будет существовать, и на самом деле никогда не будет пытаться очистить его, если его больше нельзя будет найти в коде. Но это совершенно не проверено.
Создайте статическую карту и продолжайте добавлять к ней жесткие ссылки. Это никогда не будет GC'd.
public class Leaker {
private static final Map<String, Object> CACHE = new HashMap<String, Object>();
// Keep adding until failure.
public static void addToCache(String key, Object value) { Leaker.CACHE.put(key, value); }
}
Каждый всегда забывает маршрут родного кода. Вот простая формула для утечки:
- Объявите нативный метод.
- В нативном методе вызовите
malloc, Не звониfree, - Вызовите родной метод.
Помните, что выделение памяти в нативном коде происходит из кучи JVM.
Вы можете создать движущуюся утечку памяти, создав новый экземпляр класса в методе finalize этого класса. Бонусные баллы, если финализатор создает несколько экземпляров. Вот простая программа, которая пропускает всю кучу в промежутке времени от нескольких секунд до нескольких минут в зависимости от размера вашей кучи:
class Leakee {
public void check() {
if (depth > 2) {
Leaker.done();
}
}
private int depth;
public Leakee(int d) {
depth = d;
}
protected void finalize() {
new Leakee(depth + 1).check();
new Leakee(depth + 1).check();
}
}
public class Leaker {
private static boolean makeMore = true;
public static void done() {
makeMore = false;
}
public static void main(String[] args) throws InterruptedException {
// make a bunch of them until the garbage collector gets active
while (makeMore) {
new Leakee(0).check();
}
// sit back and watch the finalizers chew through memory
while (true) {
Thread.sleep(1000);
System.out.println("memory=" +
Runtime.getRuntime().freeMemory() + " / " +
Runtime.getRuntime().totalMemory());
}
}
}
Я не думаю, что кто-то еще говорил это: вы можете воскресить объект, переопределив метод finalize(), так что finalize() хранит ссылку на это где-то. Сборщик мусора будет вызываться только один раз для объекта, поэтому после этого объект никогда не будет уничтожен.
Недавно я столкнулся с более тонкой утечкой ресурсов. Мы открываем ресурсы через getResourceAsStream загрузчика классов, и получилось так, что дескрипторы входного потока не были закрыты.
Хм, вы могли бы сказать, что за идиот.
Что делает это интересным, так это то, что таким образом вы можете просочить кучу памяти основного процесса, а не из кучи JVM.
Все, что вам нужно, это файл jar с файлом внутри, на который будет ссылаться код Java. Чем больше файл jar, тем быстрее выделяется память.
Вы можете легко создать такую банку с помощью следующего класса:
import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.util.zip.ZipEntry;
import java.util.zip.ZipOutputStream;
public class BigJarCreator {
public static void main(String[] args) throws IOException {
ZipOutputStream zos = new ZipOutputStream(new FileOutputStream(new File("big.jar")));
zos.putNextEntry(new ZipEntry("resource.txt"));
zos.write("not too much in here".getBytes());
zos.closeEntry();
zos.putNextEntry(new ZipEntry("largeFile.out"));
for (int i=0 ; i<10000000 ; i++) {
zos.write((int) (Math.round(Math.random()*100)+20));
}
zos.closeEntry();
zos.close();
}
}
Просто вставьте в файл с именем BigJarCreator.java, скомпилируйте и запустите его из командной строки:
javac BigJarCreator.java
java -cp . BigJarCreator
Et voilà: в вашем текущем рабочем каталоге вы найдете архив jar с двумя файлами внутри.
Давайте создадим второй класс:
public class MemLeak {
public static void main(String[] args) throws InterruptedException {
int ITERATIONS=100000;
for (int i=0 ; i<ITERATIONS ; i++) {
MemLeak.class.getClassLoader().getResourceAsStream("resource.txt");
}
System.out.println("finished creation of streams, now waiting to be killed");
Thread.sleep(Long.MAX_VALUE);
}
}
Этот класс в основном ничего не делает, но создает объекты InputStream без ссылок. Эти объекты будут немедленно собраны мусором и, следовательно, не влияют на размер кучи. Для нашего примера важно загрузить существующий ресурс из файла JAR, и размер имеет значение здесь!
Если вы сомневаетесь, попробуйте скомпилировать и запустить класс выше, но убедитесь, что выбрали подходящий размер кучи (2 МБ):
javac MemLeak.java
java -Xmx2m -classpath .:big.jar MemLeak
Вы не столкнетесь с ошибкой OOM здесь, так как ссылки не сохраняются, приложение будет работать независимо от того, насколько велико вы выбрали ITERATIONS в приведенном выше примере. Потребление памяти вашим процессом (видимым сверху (RES/RSS) или проводником процессов) возрастает, если приложение не получает команду ожидания. В приведенной выше настройке он выделит около 150 МБ памяти.
Если вы хотите, чтобы приложение было безопасным, закройте поток ввода прямо там, где оно создано:
MemLeak.class.getClassLoader().getResourceAsStream("resource.txt").close();
и ваш процесс не будет превышать 35 МБ, независимо от количества итераций.
Довольно просто и удивительно.
В Java есть много хороших примеров утечки памяти, я упомяну два из них в этом ответе.
Пример 1:
Вот хороший пример утечки памяти из книги Эффективное третье издание Java (Правило 7: Устранение устаревших ссылок на объекты):
// Can you spot the "memory leak"?
public class Stack {
private static final int DEFAULT_INITIAL_CAPACITY = 16;
private Object[] elements;
private int size = 0;
public Stack() {
elements = new Object[DEFAULT_INITIAL_CAPACITY];
}
public void push(Object e) {
ensureCapacity();
elements[size++] = e;
}
public Object pop() {
if (size == 0) throw new EmptyStackException();
return elements[--size];
}
/*** Ensure space for at least one more element, roughly* doubling the capacity each time the array needs to grow.*/
private void ensureCapacity() {
if (elements.length == size) elements = Arrays.copyOf(elements, 2 * size + 1);
}
}
Этот абзац книги описывает, почему эта реализация вызовет утечку памяти:
Если стек растет, а затем сжимается, объекты, которые были извлечены из стека, не будут собираться мусором, даже если программа, использующая стек, больше не имеет на них ссылок. Это связано с тем, что в стеке хранятся устаревшие ссылки на эти объекты. Устаревшая ссылка - это просто ссылка, ссылка на которую больше никогда не будет разыменована. В этом случае любые ссылки за пределами "активной части" массива элементов являются устаревшими. Активная часть состоит из элементов, индекс которых меньше размера
Вот решение книги для устранения этой утечки памяти:
Решение этой проблемы простое: обнулить ссылки, когда они станут устаревшими. В случае нашего класса Stack ссылка на элемент становится устаревшим, как только он извлекается из стека. Исправленная версия метода pop выглядит так:
public Object pop() {
if (size == 0) throw new EmptyStackException();
Object result = elements[--size];
elements[size] = null; // Eliminate obsolete reference
return result;
}
Но как предотвратить утечку памяти? Это хорошая оговорка из книги:
Вообще говоря, всякий раз, когда класс управляет своей собственной памятью, программист должен быть предупрежден об утечках памяти. Каждый раз, когда элемент освобождается, любые ссылки на объекты, содержащиеся в элементе, должны быть обнулены.
Пример 2:
Шаблон наблюдателя также может вызвать утечку памяти, вы можете прочитать об этом шаблоне по следующей ссылке: Шаблон наблюдателя.
Это одна из реализаций Observer шаблон:
class EventSource {
public interface Observer {
void update(String event);
}
private final List<Observer> observers = new ArrayList<>();
private void notifyObservers(String event) {
observers.forEach(observer -> observer.update(event)); //alternative lambda expression: observers.forEach(Observer::update);
}
public void addObserver(Observer observer) {
observers.add(observer);
}
public void scanSystemIn() {
Scanner scanner = new Scanner(System.in);
while (scanner.hasNextLine()) {
String line = scanner.nextLine();
notifyObservers(line);
}
}
}
В этой реализации EventSource, который наблюдается в Observer шаблон дизайна, может содержать ссылку на Obeserver объекты, но эта ссылка никогда не удаляется из observers поле в EventSource. Таким образом, они никогда не будут собраны сборщиком мусора. Одним из решений этой проблемы является предоставление клиенту другого метода удаления вышеупомянутых наблюдателей изobservers поле, когда им больше не нужны эти наблюдатели:
public void removeObserver(Observer observer) {
observers.remove(observer);
}
Как и предполагали многие, утечки ресурсов довольно легко вызвать - как примеры JDBC. Фактические утечки памяти немного сложнее - особенно если вы не полагаетесь на битые части JVM, чтобы сделать это за вас...
Идеи создания объектов, которые занимают очень большое место, а затем не могут получить к ним доступ, также не являются настоящей утечкой памяти. Если ничто не может получить к нему доступ, то это будет сбор мусора, и если что-то может получить к нему доступ, то это не утечка
Хотя один из способов, который раньше работал - и я не знаю, работает ли он по-прежнему, - это иметь трехглубинную круговую цепь. Так как в объекте A есть ссылка на объект B, объект B имеет ссылку на объект C, а объект C имеет ссылку на объект A. GC был достаточно умен, чтобы знать, что две глубокие цепочки - как в A <-> B - может быть безопасно собрана, если A и B недоступны для чего-либо еще, но не справились с трехсторонней цепью...
Еще один способ создать потенциально большие утечки памяти - хранить ссылки на Map.Entry<K,V> из TreeMap,
Трудно оценить, почему это относится только к TreeMaps, но, глядя на реализацию, причина может быть в том, что: TreeMap.Entry хранит ссылки на своих братьев и сестер, поэтому, если TreeMap готов для сбора, но какой-то другой класс содержит ссылку на любой из его Map.Entry, тогда вся карта будет сохранена в памяти.
Реальный сценарий:
Представьте, что у вас есть запрос БД, который возвращает большой TreeMap структура данных. Люди обычно используют TreeMaps, поскольку порядок вставки элемента сохраняется.
public static Map<String, Integer> pseudoQueryDatabase();
Если запрос был вызван много раз, и для каждого запроса (так, для каждого Map вернулся) вы сохраните Entry где-то память постоянно будет расти.
Рассмотрим следующий класс-оболочку:
class EntryHolder {
Map.Entry<String, Integer> entry;
EntryHolder(Map.Entry<String, Integer> entry) {
this.entry = entry;
}
}
Заявка:
public class LeakTest {
private final List<EntryHolder> holdersCache = new ArrayList<>();
private static final int MAP_SIZE = 100_000;
public void run() {
// create 500 entries each holding a reference to an Entry of a TreeMap
IntStream.range(0, 500).forEach(value -> {
// create map
final Map<String, Integer> map = pseudoQueryDatabase();
final int index = new Random().nextInt(MAP_SIZE);
// get random entry from map
for (Map.Entry<String, Integer> entry : map.entrySet()) {
if (entry.getValue().equals(index)) {
holdersCache.add(new EntryHolder(entry));
break;
}
}
// to observe behavior in visualvm
try {
Thread.sleep(500);
} catch (InterruptedException e) {
e.printStackTrace();
}
});
}
public static Map<String, Integer> pseudoQueryDatabase() {
final Map<String, Integer> map = new TreeMap<>();
IntStream.range(0, MAP_SIZE).forEach(i -> map.put(String.valueOf(i), i));
return map;
}
public static void main(String[] args) throws Exception {
new LeakTest().run();
}
}
После каждого pseudoQueryDatabase() вызов, map экземпляры должны быть готовы к сбору, но этого не произойдет, как минимум один Entry хранится где-то еще.
В зависимости от вашего jvm в настройках приложения может произойти сбой на ранней стадии из-за OutOfMemoryError,
Вы можете видеть из этого visualvm график, как память продолжает расти.
То же не происходит с хешированной структурой данных (HashMap).
Это график при использовании HashMap,
Решение? Просто сохраните ключ / значение (как вы, вероятно, уже сделали) вместо сохранения Map.Entry,
Я написал более обширный тест здесь.
Потоки не собираются до тех пор, пока они не прекратятся. Они служат корнями для сбора мусора. Они являются одним из немногих объектов, которые не будут возвращены, просто забыв о них или очистив ссылки на них.
Обратите внимание: основной шаблон для завершения рабочего потока состоит в том, чтобы установить некоторую переменную условия, видимую потоком. Поток может периодически проверять переменную и использовать ее как сигнал для завершения. Если переменная не объявлена volatile, тогда изменение в переменной не может быть замечено потоком, поэтому он не будет знать о завершении. Или представьте, что некоторые потоки хотят обновить общий объект, но зашли в тупик, пытаясь заблокировать его.
Если у вас есть только несколько потоков, эти ошибки, вероятно, будут очевидны, потому что ваша программа перестанет работать должным образом. Если у вас есть пул потоков, который создает больше потоков по мере необходимости, то устаревшие / застрявшие потоки могут не быть замечены и будут накапливаться бесконечно, вызывая утечку памяти. Потоки, скорее всего, будут использовать другие данные в вашем приложении, поэтому также предотвратят сбор данных, на которые они прямо ссылаются.
В качестве примера игрушки:
static void leakMe(final Object object) {
new Thread() {
public void run() {
Object o = object;
for (;;) {
try {
sleep(Long.MAX_VALUE);
} catch (InterruptedException e) {}
}
}
}.start();
}
Вызов System.gc() все что угодно, но объект передан leakMe никогда не умрет.
(* Изм *)
Интервьюер, возможно, искал круговое справочное решение:
public static void main(String[] args) {
while (true) {
Element first = new Element();
first.next = new Element();
first.next.next = first;
}
}
Это классическая проблема с подсчетом ссылок сборщиками мусора. Затем вы бы вежливо объяснили, что JVM используют гораздо более сложный алгоритм, который не имеет этого ограничения.
-Вес Тарле