Ява Кварц Ибатис Крон Проблемы

Question

У меня есть веб-приложение Java, использующее обработчик строк ibatis для загрузки очень большого набора данных (1 миллион строк в таблице innodb). Процесс запускается как ночная работа cron кварцевым планировщиком. Однако после обработки в течение 6 минут он умирает со следующей трассировкой стека:

WARN [DefaultQuartzScheduler_Worker-8] MethodInvokingJobDetailFactoryBean$MethodInvokingJob.executeInternal(168) | Could not invoke method 'doBatch' on target object [org.myCron@4adb34]
org.springframework.jdbc.UncategorizedSQLException: SqlMapClient operation: encountered SQLException [  
--- The error occurred in org/myCron/mySqlMap.xml.  
--- The error occurred while applying a result map.  
--- Check the mySqlMap.outputMapping.  
--- The error happened while setting a property on the result object.  
--- Cause: com.mysql.jdbc.CommunicationsException: Communications link failure due to underlying exception: 

** BEGIN NESTED EXCEPTION ** 

java.io.EOFException

STACKTRACE:

java.io.EOFException
        at com.mysql.jdbc.MysqlIO.readFully(MysqlIO.java:1903)
        at com.mysql.jdbc.MysqlIO.reuseAndReadPacket(MysqlIO.java:2402)
        at com.mysql.jdbc.MysqlIO.checkErrorPacket(MysqlIO.java:2860)
        at com.mysql.jdbc.MysqlIO.checkErrorPacket(MysqlIO.java:771)
        at com.mysql.jdbc.MysqlIO.nextRow(MysqlIO.java:1289)
        at com.mysql.jdbc.RowDataDynamic.nextRecord(RowDataDynamic.java:362)
        at com.mysql.jdbc.RowDataDynamic.next(RowDataDynamic.java:352)
        at com.mysql.jdbc.ResultSet.next(ResultSet.java:6106)
        at org.apache.commons.dbcp.DelegatingResultSet.next(DelegatingResultSet.java:168)
        at sun.reflect.GeneratedMethodAccessor71.invoke(Unknown Source)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
        at java.lang.reflect.Method.invoke(Method.java:592)
        at com.ibatis.common.jdbc.logging.ResultSetLogProxy.invoke(ResultSetLogProxy.java:47)
        at $Proxy10.next(Unknown Source)
        at com.ibatis.sqlmap.engine.execution.SqlExecutor.handleResults(SqlExecutor.java:380)
        at com.ibatis.sqlmap.engine.execution.SqlExecutor.handleMultipleResults(SqlExecutor.java:301)
        at com.ibatis.sqlmap.engine.execution.SqlExecutor.executeQuery(SqlExecutor.java:190)
        at com.ibatis.sqlmap.engine.mapping.statement.GeneralStatement.sqlExecuteQuery(GeneralStatement.java:205)
        at com.ibatis.sqlmap.engine.mapping.statement.GeneralStatement.executeQueryWithCallback(GeneralStatement.java:173)
        at com.ibatis.sqlmap.engine.mapping.statement.GeneralStatement.executeQueryWithRowHandler(GeneralStatement.java:133)
        at com.ibatis.sqlmap.engine.impl.SqlMapExecutorDelegate.queryWithRowHandler(SqlMapExecutorDelegate.java:649)
        at com.ibatis.sqlmap.engine.impl.SqlMapSessionImpl.queryWithRowHandler(SqlMapSessionImpl.java:156)
        at com.ibatis.sqlmap.engine.impl.SqlMapClientImpl.queryWithRowHandler(SqlMapClientImpl.java:133)
        at org.springframework.orm.ibatis.SqlMapClientTemplate$5.doInSqlMapClient(SqlMapClientTemplate.java:267)
        at org.springframework.orm.ibatis.SqlMapClientTemplate.execute(SqlMapClientTemplate.java:165)
        at org.springframework.orm.ibatis.SqlMapClientTemplate.queryWithRowHandler(SqlMapClientTemplate.java:265)
        at org.myCron.doBatch(MyCron.java:57)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
        at java.lang.reflect.Method.invoke(Method.java:592)
        at org.springframework.util.MethodInvoker.invoke(MethodInvoker.java:248)
        at org.springframework.scheduling.quartz.MethodInvokingJobDetailFactoryBean$MethodInvokingJob.executeInternal(MethodInvokingJobDetailFactoryBean.java:165)
        at org.springframework.scheduling.quartz.QuartzJobBean.execute(QuartzJobBean.java:66)
        at org.quartz.core.JobRunShell.run(JobRunShell.java:191)
        at org.quartz.simpl.SimpleThreadPool$WorkerThread.run(SimpleThreadPool.java:516)


** END NESTED EXCEPTION **

Трассировка стека очень расплывчатая. Единственные подсказки, которые я вижу, это "ошибка произошла при установке свойства для объекта результата". У результирующего объекта есть только два свойства: String и Integer. Оба они допускают нулевые значения, но мои операторы select указывают, что ни у одного из них нет нулевых значений. Они оба имеют надлежащий метод gettter / setter (что имеет смысл, так как процесс успешно выполняется некоторое время перед смертью). Каждый раз, когда cron запускается, он умирает в случайной точке (поэтому он не застревает в определенном ряду).

Примечание. Метод doBatch существует, поскольку именно он запускает процесс cron. Если он не может найти doBatch, он не может успешно обработать первую тысячу строк.

Я также попытался запустить работу за пределами кварца, и там тоже не получается. Мы попытались увеличить MySQL net_read_timeout, net_write_timeout и delayed_insert_timeout, но ни одна из этих настроек не помогла решить проблему. Я также попытался установить для моей настройки log4j значение DEBUG, и я не получил никакой полезной информации.

Любые другие идеи о том, что я мог бы попробовать?

Answer 1

Похоже, MySQL по какой-то причине закрыл соединение. Проверьте журнал MySQL, посмотрите, появляется ли что-нибудь. При необходимости включите различные параметры ведения журнала для MySQL.

Кроме того, начните печатать данные отладки (включая временную метку) из своего приложения - просто распечатайте все, а затем посмотрите, каким было последнее действие - возможно, в вашем коде есть редко запускаемые условия с ошибкой.

Т.е. каждый раз, когда вы общаетесь с MySQL, регистрируйте его до и после.